UE anchetează X în legătură cu imaginile indecente generate de Grok, modelul AI al platformei

Autoritățile Uniunii Europene va ancheta X, rețeaua de socializare deținută de Elon Musk, pentru a stabili dacă platforma difuzează conținut ilegal. Demersul Uniunii Europene are loc după ce compania a intrat în centrul unui scandal din cauza răspândirii de imagini indecente create de modelul de inteligență artificială, Grok.

Comisia Europeană a declarat că va investiga dacă platforma X protejează consumatorii prin evaluarea și atenuarea corespunzătoare a riscurilor legate de funcționalitățile lui Grok. Principala îngrijorare este legată de imaginile generate de modelul AI ce înfățișează femei și copii dezbrăcați.

„Deepfake-urile sexuale neconsensuale cu femei și copii sunt o formă violentă și inacceptabilă de umilire. Prin această anchetă, vom stabili dacă X și-a îndeplinit obligațiile legale în temeiul DSA sau dacă a tratat drepturile cetățenilor europeni – inclusiv ale femeilor și copiilor – ca pe un inconvenient pentru serviciul său”, a declarat Henna Virkkunen, comisarul pentru tehnologie al UE, conform Reuters.

După ce aceste imagini au început să fie distribuite pe X, utilizatorii platforme au semnalat ilegalitatea și au condamnat rețeua de socializare, lucru pe care l-au făcut și alte instituții la nivel mondial.

Ancheta UE vine la două săptămâni după ce autoritățile britanice, prin competența Ofcom –instituția de reglementare a mass-media – a lansat propria investigație cu privire la îngrijorările legate de Grok și abilitatea modelului AI de a crea imagini deepfake cu conținut sexual. Țări precum Indonezia, Filipine și Malaezia au decis măsuri mult mai stricte și au decis să blocheze temporar accesul la Grok.

Compania deținută de Elon Musk a anunțat că a restricționat editarea imaginilor pentru utilizatorii Grok și a blocat utilizatorii, în funcție de locația lor, să genereze imagini cu „persoane îmbrăcate în haine provocatoare în jurisdicțiile în care acest lucru este ilegal”.

Măsura luată de Comisie este în temeiul legii DSA, cea care reglementează serviciile digitale și care impune marilor companii tech să depună mai multe eforturi pentru a combate conținutul ilegal și dăunător din mediul online.

În ciuda ajustărilor anunțate de platformă, X continua să sufere de aceleași probleme și riscuri sistemice, iar oficiali din cadrul Comisiei au afirmat că X nu a efectuat niciun fel de evaluare atunci când a lansat funcționalitățile Grok în Europa.