Companiile de social media, îndemnate să combată dezinformarea sexistă generată cu AI

Platformele de social media sunt îndemnate să se implice mai mult în stoparea conținutului fals generat cu ajutorul inteligenței artificiale, care afectează în special femeile și minoritatea LGBTQ+. Cererea a fost înaintată de mai multe ONG-uri și grupuri civice ce luptă pentru drepturile omului sau pentru drepturile digitale ale utilizatorilor.

Scrisoarea deschisă semnată de cele 27 de organizații a fost transmisă către conducerea principalelor companii care dețin rețele sociale, printre care Meta, X, TikTok, YouTube, Snapchat și Reddit. Conform AFP, organizațiile arată că efectele dezinformării cu AI afectează disproporționat femeile și persoanele LGBTQ+ și le propune platformelor de social media o serie de măsuri ce ar trebui luate.

Cea mai întâlnită formă de fals generat de AI se referă la postarea de imagini sexuale cu diferite persoane. De cele mai multe ori, femeile și minoritățile sunt victimele acestor falsuri, din cauza fetișizării din mediul online. Taylor Swift, Emma Watson și Billie Eilish se numără printre vedetele care s-au văzut transpuse în imagini indecente, însă acestea sunt doar exemplele ușor de recunoscut.

„Este evident că aceste prejudicii nu sunt resimțite în mod egal. În special, femeile, persoanele trans și persoanele nonbinare sunt expuse în mod unic riscului de a resimți efectele negative ale conținutului creat cu inteligența artificială pe rețelele sociale”, se arată în scrisoare.

Kamala Harris, candidata partidului Democrat pentru Casa Albă, este la rândul său ținta dezinformării create cu ajutorul inteligenței artificiale. Mesajele misoginiste și rasiste la adresa ei sunt o constantă în acest ciclu electoral.

„Tehnologiile AI au facilitat și mai mult crearea și răspândirea hărțuirii și abuzurilor online bazate pe gen. Avem nevoie de politici eficiente care să abordeze în mod specific riscurile sporite la care sunt expuse femeile, fetele și persoanele LGBTQ+”, afirmă Ellen Jacobs, manager pentru politica digitală a SUA la Institutul pentru Dialog Strategic, care s-a numărat printre organizațiile ce au semnat scrisoarea.

Măsurile propuse de oragnizații se referă la înăsprirea pedepselor pentru cei care postează imagini sau clipuri deepfake sau imagini sexuale generate de AI și implementarea unor programe eficiente pentru detectarea conținutul generat de inteligența artificială.