Algoritmul TikTok pentru hate speech a blocat și postările #BlackLivesMatter

Filtrele de pe TikTok implementate de anul trecut pentru a combate incitarea la ură în cadrul postărilor din aplicație creează acum frustrări în rândul utilizatorilor care publică materiale video referitoare la subiectul #BlackLivesMatter.

Unele clipuri uploadate de utilizatorii de culoare au fost blocate din cauza unei erori a sistemului programat de TikTok să detecteze orice formă de discurs sau ideologie instigatoare la ură. Semnalul ridicat de câțiva utilizatori activi pe platformele de socializare a declanșat o dezbatere pe tema algoritmilor rasiști.

Un purtător de cuvânt al companiei TikTok a declarat că faptele reprezintă „doar o eroare a sistemului de recunoaștere a postărilor instigatoare la ură”, la care se lucrează în prezent, fiind exclusă varianta unei selecții bazate pe prejudecăți rasiale.  Poziția companiei a apărut ulterior postărilor care au strâns peste 1 milion de aprecieri, prin care utilizatorii făceau apel la conducerea și administrarea aplicației pentru a stopa blocarea postărilor „Black Lives Matter” sau „Black Success”.

Algoritmul blochează în mod eronat postările a căror etichete conțin combinații de cuvinte nepotrivite precum „black” și „audience” din cauza faptului că este inclus verbul „die” (a muri). Așadar sistemul nu ține cont de ordine cuvintelor, motiv pentru care au apărut astfel de situații, în care postările au fost blocate.

În ciuda explicațiilor, internauții sunt nemulțumiți susținând că toate platformele din social media au implementat modele de inteligență artificială care discriminează postările persoanelor de culoare. Un studiu din 2019, fundamentat pe datele platformei Tweeter arată că algoritmul de combatere a discursului de ură este de 1,5 ori mai predispus să semnaleze tweet-urile scrise de afro-americani drept „jignitoare” în comparație cu alte tweets.

„Black Lives Matter nu încalcă politicile noastre și are în prezent peste 27 de milioane de vizualizări pe platforma noastră” au mai spus purtătorii de cuvânt a companiei. Însă în social media a fost deja declanșată o mișcare de protest sub eticheta #BlackTikTokStrike  prin care personaje cunoscute din conținutul aplicației refuză să mai colaboreze cu compozitorii pieselor pentru a le viraliza prin realizarea unor challenge-uri de dans.

sursa foto: pexels.com