Meta a oprit o rețea ce publica conținut generat de AI despre războiul Israel-Hamas

Meta a reușit să identifice o rețea de sute de conturi ce publicau comentarii generate cu ajutorul inteligenței artificiale, în care lăudau acțiunile armatei israeliene în Fâșia Gaza. Conturile ținteau postările de pe Facbook și Instagram a organizațiilor de știri internațional și comentau, în masă, despre operațiiunile Israelului.

În raportul trimestrial de siguranță, Meta detaliază despre modul de operare al acestei rețele și spune că rețeaua folosea conturi „false și compromise”, pretindeau că sunt studenții sau simpli cetățeni și lăsau comentarii pe paginile de social media ale unor organizații media internaționale și locale, dar și ale unor personalități publice, inclusiv ale unor politicieni americani.

„Conturile acestei rețele se dădeau drept localnici în țările pe care le vizau, inclusiv ca studenți evrei, afro-americani și cetățeni «îngrijorați». Aceștia au postat în principal în limba engleză despre războiul dintre Israel și Hamas, inclusiv apeluri pentru eliberarea ostaticilor și laude la adresa acțiunilor militare ale Israelului; critici la adresa antisemitismului din campus, a Agenției ONU de Ajutorare și Lucrări pentru Refugiații din Palestina în Orientul Apropiat (UNRWA) și a musulmanilor”, scrie Meta în raport.

Ce este important de notat în destructurarea rețelei de conturi false e faptul că postările acestora erau generate cu ajutorul inteligenței artificiale, iar identificarea mesajelor text generat de AI este o premieră pentru Meta, cel puțin la nivel declarativ, conform Reuters. Dezinformarea este una dintre principalele îngrijorări când vine vorba de modelele AI generative, însă Meta spune că folosirea acestei tehnologiei nu a fost suficient de avansată ca să poată păcăli cu succes.

„Există mai multe exemple cu privire la modul în care aceastp rețea utilizează instrumente de inteligență artificială generativă pentru a crea conținut. Poate că asta le oferă capacitatea de a face acest lucru mai repede sau de a-l face cu un volum mai mare. Dar nu a afectat cu adevărat capacitatea noastră de a le detecta”, a declarat Mike Dvilyanski, șeful investigațiilor privind riscurile de la Meta, citat de Reuters.

În contextul numeroaselor alegeri electorale de anul acesta, faptul că Meta admite că poate identifica cu succes conturile ce generează chiar și postări text cu ajutorul AI este o veste bună. Poate că echipa de conducere a gigantului american este conștientă de acest lucru și a ținut să sublinieze că rețeau a fost oprită fără probleme tocmai pentru a asigura guvernele că ciclu electoral de anul acesta este luat în serios de Meta.