Un experiment arată nedreptatea algoritmului folosit de către TikTok

Un experiment făcut de către un cercetător al Universității California Berkeley School of Information pune sub semnul întrebării algoritmul recomandării de pe TikTok al noilor creatori.

Mai specific, întrebarea de la care a pornit a fost dacă algoritmul sortează sau nu sugestiile în funcție de rasa creatorului de content, aspect negat de aplicație. Acesta este încă un exemplu al nevoii de analizare mai atentă a modului în care aplicațiile si rețelele sociale promovează anumiți creatori sau conținut, conform buzzfeed.

Cercetătorul Marc Faddoul a observat, în timp ce stătea pe TikTok că, odată ce un utilizator urmarește un nou creator, persoanele recomandate arată la fel, de la etnicitate la culoarea părului. Spre exemplu, cănd a început să urmarească o tânără care poartă hijab, toate persoanele recomandate purtau și ele acest articol de îmbrăcăminte. Pentru a fi sigur, el și-a creat un nou cont, iar rezultatul a fost același. Faddoul a specificat că acesta este un experiment neoficial, dar chiar și așa, rezultatul este unul interesant.

La început, Faddoul credea ca aplicația folosește inteligența artificială care studiază pozele de profil ale utilizatorilor atunci cănd face recomandări. Unele companii, cum ar fi Netflix, folosesc aceasta metodă pentru a stabili pe care thumbnail este cel mai probabil să apese abonatul, de aceea unele seriale sau filme sunt promovate cu poze diferite de la o persoană la alta.

TikTok informează BuzzFeed că folosește ceea ce se numește filtru colaborativ, mai exact recomandă noi conturi în funcție de ce persoanele care urmaresc și ele acel cont preferă.

Un purtător de cuvânt al aplicației declară că nu au putut obține rezultate similare cu cele ale cercetătorului, iar sistemul lor de operare este bazat pe comportamentul utilizatorilor.

Dar filtrul colaborativ nu este perfect, el poate cauza un cerc vicios în care oamenilor le este recomandat doar un anumit tip de creator de content, iar asta produce o lipsa de diversitate etnică. Spre exemplu, dacă cei mai populari utilizatori TikTok sunt albi, iar aplicația continuă să recomande oameni de aceeași rasă, devine greu pentru creatorii de culoare să crească în popularitate.