Tehnologia care a schimbat manipularea din online: ce este deepfake și cum îl depistăm

În această epocă digitală în care trăim, stilul de viață ne este structurat pe baza accesului facil la informație. De la simpla decizie de a cumpăra un articol vestimentar până la formarea unei preferințe politice, ne fundamentăm alegerile, în deosebi, pe informațiile găsite sau primite pe internet. Atât formatul clasic, tipărit, al cărților, revistelor și ziarelor, cât și televiziunea se află într-un constant declin al influenței sociale, numărul receptorilor de informații în acest format consacrat fiind în continuă scădere. Spațiul lăsat liber de mijloacele media tradiționale este câștigat, indubitabil, de internet.

Și, pe bună dreptate, din moment ce o simplă căutare pe Google a termenului „deepfake” a găsit aproximativ 18.000.000 de rezultate, în 0,32 de secunde. Bineînțeles că preferăm rapiditatea și eficiența acestui motor de căutare, în detrimentul procesului laborios de a căuta informațiile în cărți de specialitate.

Totuși, internetul nu este o instanță credibilă, întrucât oricine poate publica orice, fără vreun fel de efort. Astfel se ajunge deseori la dezinformarea voită sau involuntară a maselor. În cazul dezinformării voluntare, fenomenul deepfake reprezintă un pericol real la care sunt supuși toți utilizatorii de internet.

Ce însemană deepfake?

Deepfake-urile sunt, în esență, videoclipuri sau înregistrări audio care, prin intermediul algoritmilor de învățare aplicați de inteligențele artificiale, se folosesc de imaginea unei persoane pe care o imită și o modifică, astfel încât să pară că acea persoană declară lucruri pe care nu le-a declarat niciodată sau este pusă în contexte în care nu a fost vreodată.

Deși aceste deepfake-uri sunt, momentan, detectabile cu ochiul liber, Hao Li, un expert în folosirea deepfake-urilor în industria divertismentului, este de părere că în anul 2020 tehnologia va avansa atât de mult încât oamenii nu vor mai putea distinge un videoclip real de unul deepfake. „Am început să purtăm conversații serioase în spațiul de cercetare despre cum să abordăm acest lucru și să discutăm etica și consecințele din jurul deepfake-ului”, a declarat acesta pentru Threatpost.

Până acum, majoritatea deepfake-urilor au fost folosite în pornografie sau ca farse nevinovate care nu aveau ca scop dezinformarea populației în vederea schimbării opiniei publice cu privire la o personalitate sau un subiect.  Videoclipul analizat de CBS News cu Nancy Pelosi, președinte al Camerei Reprezentanților a SUA, în care discursul și mișcările acesteia sunt modificate ca ea să pară bâlbâită este un exemplu de deepfake. Îngrijorător la acest videoclip este faptul că el nu a fost realizat cu ajutorul unei tehnologii de ultimă generație, ci este un material pe care oricine care posedă abilități informatice elementare și un software adecvat l-ar putea falsifica.

Pericolele la care suntem expuși

Pericolele care apar odată cu dezvoltarea unei astfel de tehnologii sunt multe și diverse, deoarece trebuie să luăm în calcul posibilitatea ca aceasta să fie folosită în scopul unei răzbunări personale ori să servească drept armă într-un război de propagandă. Printr-un videoclip falsificat pot fi distruse căsnicii sau relații comerciale și pot fi influențate alegeri politice. Oare ce s-ar întâmpla dacă, în plină campanie electorală, candidatul favorit al electoratului ar fi victima unui deepfake și un videoclip în care el ar susține rasismul s-ar propaga pe internet? Desigur, o parte dintre receptori ar fi sceptici și ar încerca să verifice mai multe surse, însă o parte considerabilă dintre posiblii alegători ar lua informația ca atare și nu i-ar contesta autenticitatea, având în vedere că „au văzut cu ochii lor dovada”. Autoritățile SUA au emis deja un comunicat prin care avertizează populația de posibila folosire a materialelor deepfake în cursul campaniilor electorale din 2020.

De asemnea, oamenii au tendința să creadă informațiile care le confirmă convingerile, în detrimentul celor care se află în opoziție cu credințele lor. Din această cauză, chiar dacă un material ar fi marcat ca fiind deepfake, ar putea exista persoane care să ignore acest semnal de alarmă și să creadă în continuare informațiile false, doar pentru a-și întări o convingere deja existentă. Astfel, opiniile nefondate își vor putea găsi temeiuri și argumente în conținutul videoclipurilor deepfake. Și chiar dacă toți receptorii ar fi dispuși să verifice calitatea informațiilor, există situații în care o decizie trebuie luată rapid, ceea ce afectează capacitatea acestora de a se informa asupra veridicității videoclipurilor.

În fond, niciun om nu se poate îndoi de fiecare fapt. Ordinea socială se bazează pe încrederea în anumite atribuții ale diferitelor instituții. Chiar dacă există persoane cu o gândire critică mai dezvoltată, oricine are nevoie să se încreadă în ceva. O lume în care orice videoclip vizionăm ar putea fi un fals este o lume în care capacitatea noastră de a ne asuma opinii ar fi obnubilată. Neputând să distingem adevărul de minciună, singurele mecanisme rămase pentru a lua o decizie vor fi cele afective.

Cum ne putem apăra de deepfake

Din nefericire, modalitățile individuale de a recunoaște un deepfake nu sunt foarte multe și nici foarte eficiente. În stadiul actual al tehnologiei, există anumite semnale cărora putem să le acordăm atenție, pentru a deosebi un videoclip fals de unul autentic. Putem să avem grijă la inconsistențele de imagine, precum apariția unor umbre sau unor zone luminoase în locuri în care nu ar trebui să fie. Totodată, o analiză sumară a mișcărilor feței ne poate da indicii despre veridicitatea videoclipului: de obicei, mișcările buzelor și ale ochilor sunt nefirești, părând artificiale. Uneori se poate întâmpla chiar ca sunetul să nu se suprapună perfect cu mișcările buzelor, ceea ar trebui să ne alarmeze și să ne determine să privim cu ochi mai critici.

Cu toate acestea, din momentul în care tehnologia va avansa atât de mult încât un om nu va mai putea face diferența între un deepfake și un videoclip real, nu ne va mai rămâne decât scepticismul. De fiecare dată când vom întâlni un videoclip care prezintă fapte ce nu par plauzibile și nu se aliniază cu realitatea, va trebui să verificăm mai multe surse pentru a afla dacă ceea ce am vizionat chiar s-a întâmplat.

În curând, persoanele nu vor mai putea ști ce este real și ce nu, deci dezvoltarea unui software care să verifice autenticitatea videoclipurilor în mod eficient este obligatorie. Problema deepfake trebuie reglementată și gestionată de marile companii care permit informațiilor să fie distribuite pe platformele lor. Sisteme care fac diferența dintre un videoclip autentic și un deepfake există deja, însă, după cum afirmă John Villasenor, expert în studii de guvernare la Centrul pentru Inovare Tehnologică Brookings, tehnicile care detectează un deepfake „deseori rămân în urma celor mai avansate metode de creare” a unuia.