OpenAI va oferi Institutului de siguranță AI din SUA acces prioritar la următorul său model

Sam Altman, șeful OpenAI, promite că va lucra cu Institutul de siguranță AI din SUA cu privire la următoarele modele performante de inteligență artificială ale companiei. Anunțul vine în urma mai multor crtici referitoare la atitudinea OpenAI din ultima vreme de a ignora siguranța programelor AI și de a se concentra pe succes comercial.

Altman a precizat că va oferi Institutului american de siguranță AI acces prioritar pentru viitorul model dezvoltat de OpenAI și vor „lucra împreună pentru a avansa domeniul evaluărilor AI”. Altman a postat pe X, fosta Twitter, unde a vorbit despre mai multe schimbări pe care le va face pentru a asigura autoritățile că siguranța programelor de inteligență artificială este luată în serios.

Criticile au început în luna mai, când OpenAI a decis să desființeze o echipă care elabora diferite sisteme de siguranță și controale pentru a împiedica programele AI extrem de performante să devină periculoase. Mișcarea a adus cu ea plecarea din compania a celor doi șefi ai echipei desființate, Jan Leike și Ilya Sutskever. Leike a plecat la Anthropic, o altă companie AI, unde conduce divizia de cercetare din domeniul de siguranță, iar Sutskever, care este și co-fondator al OpenAI, și-a înființat propria compania AI.

Autoritățile și publicul au văzut decizia OpenAI ca fiind una mânată de dorința de a lansa cât mai multe produse de inteligență artificială, fără a-i mai păsa de siguranță. Acum, Altman spune că va îndrepta asta și va aloca mai multe resurse către toate diviziile de siguranță din OpenAI.

Parteneriatul cu Institutul de siguranță AI din SUA este cel mai important dintre aspectele prezentate de Altman pentru că oferă autorităților early-access la programele AI pregătite de OpenAI, pe care le pot testa și evalua înainte ca acestea să fie lansate către consumatori.

Deși, o astfel de înțelegere ar putea foarte bine să fie și în interesul companiei lui Altman. Conform TechCrunch, OpenAI și-a crescut semnificativ bugetul pentru lobby la nivelul instituțiilor federale. În primele șase luni din acest an a cheltuit 800,000 de dolari pentru a face lobby, față de cei 260,000 de dolari cheltuiți în tot anul 2023.