O companie deținută de Google testează etichete pentru imagini generate artificial

DeepMind, o companie de inteligență artificială deținută de Google, s-a angajat într-o misiune de combatere a dezinformării răspândite prin intermediul conținutului generat de inteligența artificială. În prezent, compania testează un instrument inovator de marcare digitală cunoscut sub numele de SynthID.

Conceptul din spatele SynthID implică încorporarea unei etichete digitale în pixelii individuali ai unei imagini, făcându-l invizibil pentru ochiul uman. Cu toate acestea, computerele echipate cu acest instrument pot detecta filigranul și pot constata că imaginea este generată artificial de inteligența artificială, ceea ce îngreunează răspândirea imaginilor false pe internet, conform UKTN.

În timp ce eticheta digitală reprezintă un pas important în combaterea dezinformării generate de AI, DeepMind subliniază că nu este soluția ideală. Imaginile pot fi manipulate astfel încât eticheta să nu mai poată fi detectată.

Urgența abordării acestei probleme devine evidentă atunci când luăm în considerare cazurile recente de farse generate de AI. Într-un astfel de caz, o imagine a Papei Francisc purtând o jachetă de designer la modă a devenit virală înainte ca publicul să realizeze că era o creație a inteligenței artificiale. Cam în aceeași perioadă, pe rețelele de socializare au circulat imagini care înfățișau o arestare fictivă a lui Donald Trump, păcălind un număr considerabil de persoane înainte de a fi demascate ca fiind false.

Dezinformarea alimentată de inteligența artificială reprezintă o provocare semnificativă în contextul în care atât Marea Britanie, cât și SUA se apropie de alegeri importante. Potențialul ca imaginile false și conținutul manipulat să influențeze opinia publică și să submineze încrederea în sursele de informare reprezintă o preocupare din ce în ce mai mare.

Necesitatea de a aborda detectarea imaginilor false generate de AI va fi, probabil, un subiect cheie de discuție la viitorul Summit privind siguranța AI. Acest summit va reuni lideri și experți internaționali pentru a explora o abordare globală a reglementării tehnologiei inteligenței artificiale și pentru a asigura utilizarea responsabilă a acesteia.