UNICEF cere incriminarea conținutului AI ce prezintă imagini explicite cu minori

UNICEF, agenția Națiunilor Unite pentru copii, solicită țărilor să incrimineze conținutul generat de inteligența artificială care prezintă imagini explicite cu minori. Considerată un abuz sexual, agenția spune că este alarmată de rapoartele privind creșterea numărului de imagini generate de AI ce sexualizează copiii.

UNICEF și-a exprimat îngrijorarea cu privire la ceea ce a numit  un proces de „nudificare” a copiilor, accelerat de inteligența artificială care dezbracă sau modifică hainele din fotografii pentru a crea imagini nud sau sexualizate. Potrivit cercetărilor agenției, cel puțin 1,2 milioane de copii din 11 țări au dezvăluit că imaginile lor au fost manipulate în deepfake-uri sexuale explicite, doar în ultimul an.

Printre primele acțiuni recomandate, UNICEF a îndemnat dezvoltatorii de AI să implementeze măsuri de siguranță și de protecție încă din stadiul de proiectare a acestori modele pentru a preveni utilizarea abuzivă. Pe lângă acești pași, companiile ar trebui să prevină circulația imaginilor explicite prin consolidarea moderării conținutului și prin investiții în tehnologii de detectare.

„Prejudiciul cauzat de abuzul deepfake este real și urgent. Copiii nu pot aștepta ca legea să se adapteze”, a afirmat UNICEF într-o declarație, conform Reuters.

Înngrijorările cu privire la utilizarea AI în scopul generării de conținut cu abuzuri sexuale au crescut abrupt în ultimul an, în special din cauza modelul AI Grok, deținut xAI – compania lui Elon Musk – care este supus unei anchete pentru producerea de imagini sexualizate cu femei și minori.

Prima țară care va lua măsura criminalizării acestor deepfake-uri este Marea Britanie, care a anunțat că intenționează să interzică utilizarea instrumentelor AI pentru a crea imagini explicite cu minori.

În paralel, secretarul general al ONU, Antonio Guterres, a declarat că a propus o listă cu 40 de persoane pentru a face parte din Comisia științifică internațională independentă pentru inteligența artificială. Asigurând măsuri de siguranță și protecție pentru această tehnologie, scopul declarat al comisiei este de a asigura utilizarea inteligenței artificiale în beneficiul umanității.