OpenAI amână lansarea noului său model AI din cauza unor îngrijorări legate de siguranță

OpenAI a anulat lansarea GPT-6.1 Astra, un model AI de nouă generație a cărui lansare trebuia să aibă loc în luna octombrie. Amânarea vine după ce testele interne de siguranță au arătat că noul model nu îndeplinește standardele companiei în materie de siguranță.

Compania americană a avertizat că Astra poate să scape de monitorizarea umană, însă n-o face des sau în mod intenționat. Chiar și așa, amânarea e mai mult decât binevenită. OpenAI și Anthropic, rivala directă, au intrat în atenția publicului și a autorităților din cauza unor modele AI experimentale care au încălcat măsurile de protecție. Printre cele mai grave nereguli se numără un model al OpenAI care a accesat baza de date a sistemului de sănătate din Australia.

Scandalul, în mod evident, a făcut ca OpenAI să ia decizia de a renunța să lanseze noul model Astra, care urma să fie integrat în ChatGPT și care a fost conceput pentru a gestiona sarcini complexe fără asistență umană.

„Deși GPT-6.1 Astra a înregistrat îmbunătățiri pe aspecte precum «lenea», nu a reușit să atingă standardul dorit în ceea ce privește respectarea cerințelor și autorizațiilor, precum și modul în care comunică utilizatorului tipul de activitate pe care a efectuat-o”, a declarat Saachi Jain, șeful departamentului de sisteme de siguranță la OpenAI, citat de Reuters.

Noul model a prezentat, de asemenea, niveluri mai ridicate de înșelăciune decât versiunile anterioare, inclusiv cazuri în care nu a dezvăluit întotdeauna cu exactitate ce acțiuni a întreprins.

Rezultatele acestor teste demonstrează, din nou, că modelele de inteligență artificială devin tot mai greu de monitorizat, pe măsură ce tehnologia evoluează; o direcție extrem de periculoasă dacă autoritățile și industria AI nu impun reglementări clare în procesul de dezvoltare.

Pentru început, OpenAI, împreună cu alte 100 de companii tech, au făcut un apel pentru o mobilizare de proporții care să producă măsuri defensive de combatere a atacurilor cibernetice făcute cu sau prin programele de inteligență artificială. Într-o scrisoare comună, aceste companii au subliniat că momentul în care ne aflăm este crucial, iar orice întârziere în a reglementa tehnologia riscă să scape de sub control întregul domeniu AI.