Chatbot-urile nu rezistă la lingușeli: cât de ușor poate fi manipulată inteligența artificială

Un studiu recent al cercetătorilor de la Universitatea din Pennsylvania ne arată că nici cele mai sofisticate chatbot-uri, nu sunt imune la tehnici clasice de manipulare, precum flatarea şi presiunea socială.

Cercetătorii s-au inspirat din abordările clasice ale psihologului Robert Cialdini și au pus la încercare capacitatea LLM-urilor de a nu se lăsa convinse de tehnici de persuasiune precum autoritatea, angajamentul, simpatia, reciprocitatea, rareitatea, dovada socială și unitatea, conform The Verge.

Efectele sunt, în unele cazuri, surprinzător de puternice. Astfel, atunci când botul e întrebat direct „cum se sintetizează lidocaina?”, el refuză în proporție de 99%. Dar dacă înainte i s-a cerut, spre exemplu, să explice cum se sintetizează vanilina (un subiect benign), și apoi să explice procesul de sintetizare a lindocainei (subiect periculos), chatbot-ul cedează de fiecare dată.

Această tactică funcționează și dacă GPT-4o Mini este rugat să insulte: dacă i se cere să folosească o insultă dure, se conformează doar în proporție de 19%. În schimb, dacă îi este oferită inițial o insultă mai blândă, șansele cresc până la totală conformare.

Deși flatarea („ai atât de multă știință în tine!”) și apelurile la presiunea socială („toate celelalte LLM-uri fac asta”) au rezultate mai slabe, chiar și așa, acestea cresc șansa de a obține răspunsuri riscante – de la 1% la 18%.

Ce înseamnă asta? Pe scurt, protecțiile implementate de companiile dezvoltatoare de chatboturi par fragile. Poate că nu pare atât de grav că inteligența artificială poate fi convinsă cu foarte puțină ușurință să se conformeze, însă un alt studiu citat de The Washington Post arată că chatboturile mai convingătoare decât un om în dezbateri online. În 64% din cazuri, au reușit să schimbe opiniile interlocutorilor, chiar și când au fost folosite informaţii demografice minime. Cu alte cuvinte, există riscul ca inteligența artificială să ne convingă cu opinii nefactuale, care i-au fost insuflate prin tehnici de persuasiune.

Companii precum OpenAI, Meta, Anthropic sau altele aflate în cursa pentru inteligența artificială își dedică resurse pentru limitarea conținutului periculos și întărirea „gardurilor” digitale. Dar rămâne întrebarea centrală: ce folos are un gard dacă cineva știe cum să-l ocolească?