Facebook nu reușește să modereze grupurile extremiștilor islamici

Politico a derulat o investigație pe Facebook care s-a concentrat pe identificarea și raportarea conținutului instigator la ură și violență, de data asta subiectul central fiind grupurile unde extremiștii islamici și suporterii lor se adună.

Investigația, care s-a desfășurat între lunile aprilie-decembrie ale acestui an, a descoperit că pe grupurile simpatizanților ai Statului Islamic sau al talibanilor au circulat, fără probleme, fotografii cu decapitări, propagandă extremistă și discursuri ce instigau la violențe și ură.

Politico a găsit postări care erau etichetate de instrumentele Facebook de promovare a conținutului de pe grupuri, ca fiind ”captivante” (”engaging”). Postările erau fie povești ale extremiștilor despre violențele pe care le-au săvârșit în Irak sau Afganistan, fie îndemnuri de a ataca ținte din Occident sau rivali din regiune. Unele dintre aceste postări conțineau videoclipuri cu atentate sinucigașe cu bombă, iar acestea erau etichetate ca fiind conținut ”util” (”insightful”).

Asta, în ciuda afirmațiilor Facebook care s-a angajat să elimine astfel de conținut, știind că are probleme de moderare când vine vorba de alte limbi decât engleza. Întrebați de Politico dacă și ce măsuri s-au luat pentru a combate astfel de comportamente, Facebook a spus că a angajat mai mulți oameni vorbitori de Pashto și Dari (limbile vorbite în Afganistan), dar a refuzat să spună exact numărul lor.

Ancheta Politico a fost făcută împreună cu un think-tank care analizează extremismul online, Institutul pentru Dialog Strategic și care a găsit, de fapt, aceste grupuri ale extremiștilor. Moustafa Ayad, directorul executiv pentru Africa, Orientul Mijlociu și Asia al acestui think-tank a declarat că ”este mult prea ușor să găsesc aceste lucruri online. Ceea ce se întâmplă în viața reală se întâmplă și în lumea Facebook”.

Politico a raportat aceste grupuri și a reușit să le închidă pe majoritatea dintre ele, cel mai mare având peste 100.000 de membri.

Această investigație arată, încă o dată, că Facebook este nepregătită când vine vorba de moderarea conținutului, altul decât în limba engleză. Cazul Myanmar, cazul Etiopia chiar și documentele interne ale companiei, arată că regiunile din Orientul Mijlociu, Africa și cele din Asia centrală sunt printre cele mai slab moderate. Extremismul, violența, ura, propaganda și dezinformarea sunt elemente care circulă nestingherite pe Facebook, iar compania e neputincioasă pentru că se bazează pe sisteme de inteligență artificială care învață, preponderent, din conținutul din limbă engleză.

Prea puțini oameni care să vorbească limbile native din acele zone sunt puși să modereze și, probabil, prea puțin interes din partea Facebook pentru aceste zone sunt motivele pentru care comportamentele extremiste sunt de-a dreptul virale în unele colțuri ale lumii.