Meta dă în judecată o compania din spatele unei rețele AI, care fabrica imagini explicite neconsensuale

Meta dă în judecată o companie care a dezvoltat o aplicație ce folosește inteligența artificială pentru a crea imagini false cu persoane în ipostaze erotice. După repetate încălcări ale regulilor Facebook și Instagram, Meta a luat o serie de măsuri, printre care și deschidera acestui proces.

CrushAI, aplicația din centrul acestui scandal, permite transformarea fotografiei unei persoane într-un videoclip deepfake în care aceasta se dezbracă sau o prezintă în diferite ipostaze sexuale. În plus, Joy Timeline HK Limited – compania din spatele CrushAI – a reușit în ultimul an să plaseze mii de reclame pe platformele deținute de Meta, așa cum a arătat o investigație a Indicator.

Puțin peste 8,000 de astfel de anunțuri au fost postate pe Facebook și Instagram, promovând site-ul CrushAI.

„Am dat în judecată Joy Timeline HK Limited, entitatea care se află în spatele aplicațiilor CrushAI, care permit oamenilor să creeze imagini nud sau sexuale explicite generate de AI ale unor persoane fără consimțământul acestora. Această acțiune urmează multiplelor încercări ale Joy Timeline HK Limited de a ocoli procesul de revizuire a anunțurilor Meta și de a continua să plaseze aceste anunțuri, după ce au fost eliminate în mod repetat pentru încălcarea regulilor noastre. această acțiune în justiție subliniază atât seriozitatea cu care tratăm acest abuz, cât și angajamentul nostru de a face tot ce ne stă în putință pentru a ne proteja comunitatea de el”, a declarat Meta într-o postare pe blogul companiei.

Eforturile gigantului american nu se opresc doar la acțiuni legale, din fericire. Meta spune că a lucrat la crearea unor tehnologii care va împiedica aplicațiile precum CrushAI să mai plaseze reclame pe platformele de social media și va oferi mai multe informații legate de entitățile din spatele lor.

„Am dezvoltat o nouă tehnologie special concepută pentru a identifica acest tip de reclame – chiar și atunci când anunțurile în sine nu includ nuditate – și folosim tehnologia de potrivire pentru a ne ajuta să găsim și să eliminăm mai rapid reclamele copiate. Am colaborat cu experți externi și cu propriile noastre echipe de specialiști pentru a extinde lista de termeni, fraze și emoji legate de siguranță pe care sistemele noastre sunt pregătite să le detecteze în aceste anunțuri”, a adăugat Meta.

Acesta este un pas binevenit, la fel ca oricare dintre măsurile pe care marile companii le iau pentru a asigura protecția utilizatorilor, mai ales în această perioadă când serviciile AI sunt integrate pe repede înainte în majoritatea produselor online.