UE afirmă că ChatGPT încă nu respectă standardele europene de acuratețe a datelor

Comitetul european pentru protecția datelor (EDPB) a prezentat un raport cu privire la ChatGPT și nivelul de respectare al programului de inteligență artificială a normelor UE. De la acuratețea informațiilor prezentate utilizatorului și până la siguranța datelor de care ChatGPT ar trebui să se îngrijească, autoritatea europeană a descoperit că modelul dezvoltat de OpenAI nu se ridică la standardele Uniunii.

În raportul făcut public pe site-ul EDPB, instituția afirmă că a alcătuit un grup special ce analizează ChatGPT, iar investigația acestuia arată că popularul program AI încă are anumite sincope ce trebuie rezolvate.

În principal, ChatGPT nu oferă utilizatorilor date și informații exacte, iar modul în care programul este antrenat (prin web scraping) ridică suspiciuni cu privire la respectarea GDPR în privința siguranței datelor personale.

„Deși măsurile luate pentru a respecta principiul transparenței sunt benefice pentru a evita interpretarea greșită a rezultatelor ChatGPT, acestea nu sunt suficiente pentru a respecta principiul exactității datelor”, se arată în raport.

Chiar dacă OpenAI spune că prin web scraping datele folosite de AI sunt informații publice, EDPB e de părere că această interpretare nu este făcută cu bună-credință și omite așteptările și acordul utilizatorilor când vine vorba de procesarea sau folosirea datelor lor personale.

„Simplul fapt că datele cu caracter personal sunt accesibile publicului nu implică faptul că persoana vizată a făcut în mod evident publice aceste date. Pentru a se invoca această excepție, este important să se stabilească dacă persoana vizată a avut intenția, în mod explicit și printr-o acțiune afirmativă clară, de a face datele cu caracter personal în cauză accesibile publicului larg”, afirmă EDPB.

Web scraping-ul este un element dezbătut de organele de control pentru a găsi cea mai bună soluție pentru protejarea datelor, chiar dacă acestea apar în locuri publice. Dincolo de acest aspect, drepturile de autor sunt și ele invocate, mai ales de artiștii ai căror lucrări sunt analizate de AI pentru a genera imagini, muzică sau chiar voci.

Problema cea mai importantă identificată de EDPB se referă la acuratețea informațiilor prezentate de ChatGPT și obișnuința modelului de a inventa sau distorsiona răspunsurile către utilizator.

„De fapt, din cauza naturii probabilistice a sistemului, abordarea actuală de instruire conduce la un model care poate produce rezultate distorsionate sau inventate. În plus, este probabil ca rezultatele furnizate de ChatGPT să fie considerate ca fiind corecte factual de către utilizatori, inclusiv informații referitoare la persoane, indiferent de acuratețea lor reală”, indică raportul.

E clar că inteligența artificială generativă mai are mult până să ajugă în punctul în care poate să fie cu adevărat de încredere, însă dezvoltatorii acestor programe trebuie să se ocupe de calitatea lor atunci când le lansează public. Popularitatea modelelor AI a explodat o dată cu lansarea ChatGPT în 2022, iar acum această tehnologie e implementată de toate marile companii tech în speranța că vor atrage cât mai multă lume, însă de multe ori lansările sunt făcute fără măsuri de protecție adecvate.