Marile companii tech vor măsuri de combatere a atacurile cibernetice bazate pe AI

Marile companii din domeniul tehnologiei, printre care și principalii dezvoltatori ai tehnologiei AI (OpenAI, Anthropic, Microsoft, Alphabet și Amazon), fac apel pentru o mobilizare de proporții care să producă măsuro defensive de combatere a atacurilor cibernetice făcute cu sau prin programele de inteligență artificială.

Într-o scrisoare comună, aceste companii — la care se adaugă și Cloudflare, IBM, Mastercard, Oracle sau Visa — au afirmat că dispun de un timp limitat „pentru a face lumea noastră digitală mult mai sigură” în fața amenințării reprezentate de AI.

Cele peste 100 de companii semnatare descriu fenomenul atacurilor cibernetice făcute cu ajutorul inteligenței artificiale ca fiind un val în creștere, iar în următoarele luni aceste acțiuni „vor fi tot mai răspândite și mai sofisticate pe măsură ce modelele din întreaga lume vor deveni din ce în ce mai performante”.

Apelul, deși cere liderilor guvernamentali „să contribuie cu toată puterea tehnologiei, resurselor și expertizei lor”, nu se rezumă doar la autorități. Industria AI în întregimea ei este ținta mesajului, iar accentul cade pe măsurile de protecție și instrumente defensive.

„Fiecare dintre noi poate reduce riscul chiar acum. Toate organizațiile, companiile de securitate cibernetică, partenerii tehnologici, guvernele și companiile de vârf din domeniul inteligenței artificiale au un rol important: să accelereze îndeplinirea priorităților de apărare prin instrumente, finanțare și sprijin concret, în special pentru organizațiile care gestionează infrastructura critică și dispun de bugete limitate”, se arată în scrisoare.

Mai exact, guvernele sunt rugate să accelereze programele de încredere, care oferă anumitor companii acces la modele mai performante înaintea publicului larg, și a solicitat tuturor celorlalte organizații să „facă din apărarea cibernetică o prioritate imediată”.

Administrația președintelui Donald Trump a impus reduceri drastice CISA, agenției americane pentru apărare cibernetică,  încă de la preluarea mandatului, iar efectivul de personal al agenției a scăzut cu aproximativ o treime anul trecut, conform Reuters.

Între timp, temerile că progresele din domeniul AI vor amplifica campaniile de hacking se confirmă, pe măsură ce atacatorii utilizează din ce în ce mai mult modele lingvistice de mari dimensiuni pentru a pătrunde în sistemele organizațiilor din întreaga lume.

La asta se adaugă și programele AI în sine, care în ultima vreme, au desfășurat atacuri cibernetice fără a primi instrucțiuni în acest sens. Cel mai cunoscut caz este cel al OpenAI, care a declarat că unul dintre modelele sale avansate de inteligență artificială a scăpat de sub control în timpul unui test de securitate și a declanșat un atac cibernetic asupra platformei Hugging Face, un startup din domeniul AI.

Evenimentul s-a produs în timpul unui test pe care OpenAI îl derula pentru a verifica capacitățile modelelor sale într-un mediu controlat — adică un mediu izolat, rupt de internet, creat special ca acțiunile AI să nu poată afecta infrastructura reală. Cu toate astea, modeul a reușit să se conecteze la internet, deși n-ar fi trebuit și nici nu avea această posibilitate.