China nu vrea ca oamenii să se ”îndrăgostească” de AI. Beijingul înăsprește regulile pentru chatboturi

China a introdus reguli noi pentru relațiile emoționale dintre oameni și inteligența artificială, interzicând serviciilor AI să încurajeze dependența emoțională, manipularea afectivă sau relațiile romantice cu minori.

Măsurile au intrat în vigoare la 15 iulie și au determinat deja mai multe companii chineze să își închidă sau să își modifice serviciile de tip „AI companion”, servicii din ce în ce mai populare în întreaga lume.

Mai precis, interdicțiile vizează serviciile care folosesc inteligența artificială pentru a simula personalități și tipare de comunicare umane și care sunt concepute pentru interacțiuni emoționale cu utilizatorii. Autoritățile sunt preocupate în special de situațiile în care un chatbot ajunge să încurajeze dependența utilizatorului de conversație sau să îl determine să ia decizii prin manipularea emoțiilor sale, conform cotidianului francez El Pais.

Platformele trebuie să intervină atunci când identifică semne de dependență sau stări emoționale extreme și trebuie să îi reamintească utilizatorului că discută cu un sistem de inteligență artificială, nu cu o persoană.

În plus, chatbot-urile ar trebui să le reamintească utilizatorilor de durata de utilizare și să îi sfătuiască să contacteze pe cineva atunci când există riscul de automutilare sau sinucidere.

Primele „despărțiri” dintre utilizatori și companionii AI

Efectele noilor reguli s-au văzut rapid. Din momentul în care reglementările au intrat în vigoare, ByteDance a dezactivat funcția de agent AI de pe Doubao, cel mai popular chatbot din China, în timp ce Alibaba și Tencent au eliminat, la rândul lor, funcțiile de agent AI care le permiteau utilizatorilor să-și creeze companioni personalizați.

Pentru unii utilizatori, măsura a însemnat mai mult decât pierderea unei funcții dintr-o aplicație. O parte dintre aceștia dezvoltaseră relații emoționale cu personajele AI și au descris dispariția lor în termeni asemănători unei despărțiri.

Fenomenul nu este pur teoretic. Un studiu recent bazat pe respondenți din mai multe țări a constatat că peste 35% dintre participanți au raportat o anumită formă de atașament emoțional față de chatboturi, fenomenul fiind mai pronunțat în China și Africa de Sud.