Wikipedia afirmă că agenți AI, ce aparțin OpenAI, ar fi cauzat o întrerupere a site-ului

Fundația Wikimedia, organizația care administrează enciclopedia Wikipedia, consideră că agenți AI, ce aparțin OpenAI, au editat pagini wiki, au încercat să exploateze o aplicația de notițe și au efectuat milioane de solicitări automate pe site, care au cauzat blocarea traficul online și întreruperea serviciilor.

Într-o declarație de presă publicată pe blogul organizației, fundația din spatele Wikipedia afirmă că a demarat o investigație internă pentru a stabili dacă site-ul enciclopediei a fost ținta unor atacuri realizate de modele de inteligență artificială care au scăpat de sub control.

Faptul că modelele sau agenții AI scanează internetul pentru date nu e o surpriză, însă faptul că aleg să facă anumite acțiuni dăunătoare este. Wikimedia spune că a identificat numeroase editări făcute de AI în cadrul unor pagini de Wikipedia, mai multe încercări de exploatare a unei aplicații de notițe folosite de platfomră și milioane de căutări pe site, care au suprasolicitat sistemele enciclopediei online și au dus la o întrerupere a serviciilor – ce a avut loc în luna mai.

„În calitate de organizație tehnologică non-profit care găzduiește unele dintre cele mai mari și mai utilizate platforme de cunoaștere din lume, suntem profund îngrijorați de impactul agenților AI «rebeli» asupra platformelor care sunt construite de voluntari din întreaga lume și se bazează pe promisiunea unui internet deschis, precum a noastră. Incidente ca acesta, dar și multe altele care au fost (și încă sunt) descoperite, ilustrează modul în care agenții AI pot epuiza resursele, bloca serverele și modul în care pot încerca să compromită informațiile de încredere”, afirmă Fundația Wikimedia, în declarația de presă.

Afirmațiile aduse de operatorul Wikipedia vin în contexul dezvăluirilor recente cu privire la accesul ilegal sau atacurilor desfășurate de modele AI asupra unor site-uri sau servicii terțe.

„Internetul deschis este un bun public. Nu ar trebui să permitem ca acest comportament să devină «noua normalitate» pentru persoanele sau organizațiile care îl întrețin”, a adăugat Wikimedia, făcând un apel pentru sănătatea internetului și al mediului informațional.

Din nefericire, faptul că modelele de inteligență artificială devin tot mai greu de monitorizat, pe măsură ce tehnologia evoluează, nu mai este un element ce ține de ficțiune. Chiar companiile din industria AI sunt conștiente de acest lucru și cer măsuri de siguranță și reglementări clare pentru dezvoltarea tehnologiei.

În lipsa acestor praguri minime de securitate, marile companii AI acționează singure și reprezintă unica barieră în fața unor modele potențial necorespunzătoare. Săptămâna trecută, OpenAI a anulat lansarea GPT-6.1 Astra, un model AI de nouă generație a cărui lansare trebuia să aibă loc, acum, în luna octombrie. Amânarea a venit după ce testele interne de siguranță au arătat că noul model nu îndeplinește standardele companiei în materie de siguranță.