Zeci de ONG-uri cer Zoom să renunțe la AI-ul care citește emoțiile utilizatorilor

Peste 25 de ONG-uri pentru drepturile omului cer companiei Zoom să renunțe la a implementa un sistem de inteligență artificială care citește emoțiile de pe fața utilizatorilor. Compania a declarat că vrea să implementeze o astfel de tehnologie încă de când pandemia a propulsat platforma de video-meeting în atenția generală a publicului.

Zoom a lucrat cu Intel pentru a dezvolta un sistem care ar fi ajutat profesorii, spunându-le acestora când elevii par confuzi sau plictisiți, astfel încât să-și poată adapta modul de predarea și să încerce să facă ora mult mai interactivă. Bineînțeles că pentru a face asta, programul AI trebuie să analizeze fețele elevilor și să transmită informația mai departe.

Dincolo de situația parcă scoasă din cărțile distopice, tehnologia este deja folosită pe scară redusă. Protocol a notat în luna aprilie că unele companii folosesc o versiune similară a acestui program pentru a analiza emoțiile clienților pentru a lua cea mai bună decizie, bazându-se pe reacțiile involuntare ale persoanei respective. Mai mult decât atât, clienții primeau o notă într-un ”tabel emoțional”, astfel încât compania să decidă mai ușor care este cea mai bună abordare în funcție de nota din tabel.

Cele 28 de ONG-uri au luat la cunoștiință de existența acestui program AI și de dorința platformei de a-l implementa și au adresat o scrisoare deschisă fondatorului Zoom (care este și actualul CEO) în care îi cer acestuia să renunțe la această tehnologie pentru că reprezintă o măsură manipulatoare, discriminatorie și un risc la adresa integrității datelor utilizatorilor.

”Zoom pretinde că îi pasă de fericirea și securitatea utilizatorilor săi, dar această tehnologie invazivă spune altceva. Această mișcare […], bazată pe ideea falsă că inteligența artificială poate urmări și analiza emoțiile umane, reprezintă o încălcare a vieții private și a drepturilor omului. Zoom trebuie să oprească planurile de a avansa această funcție […] În calitate de lider de piață, aveți, de asemenea, responsabilitatea de a stabili direcția pentru alte companii din acest spațiu. Puteți spune clar că această tehnologie nu-și are locul în comunicațiile video”, au scris ONG-urile în scrisoarea către Zoom.

După cum spuneau și experții citați de Protocol, acest sistem exagerat de supraveghere nu poate să-ți stabilească concret atitudinea cu privire la subiectul la care iei parte. Poți să fii politicos și să zâmbești, în timp ce te gândești la ce serial să te uiți după ce închizi Zoom-ul. În afară de faptul că această tehnologia ne apropie mai mult de lumile prezentate în poveștile distopice, aplicabilitatea ei este foarte limitată.