OpenAI a decis să reducă timpul, dar și resursele destinate testării siguranței modelelor AI, într-o manieră care ridică mari semne de întrebare în legătura cu viitorul dezvoltării sigure și etice a inteligenței artificiale.
Timpul de testare era, de obicei, de câteva luni. Înainte de lansarea ChatGPT, programul a fost supus testelor de siguranță timp de șase luni. Recent, însă, personalului i s-a acordat doar câteva zile pentru a efectua evaluări a riscurilor și performanțelor modelelor AI, conform unor surse din OpenAI, citate de Financial Times.
Testele au devenit mai puțin riguroase, cu mult mai puțin timp și resurse pentru identificarea și atenuarea riscurilor.
„Am avut teste de siguranță mai amănunțite atunci când tehnologia era mai puțin importantă. Dar, pentru că există o cerere mai mare, vor să le scoată mai repede. Sper că nu este un pas catastrofal greșit, dar este imprudent. Aceasta este o rețetă pentru un dezastru”, a declarat una dintre sursele din cadrul OpenAI.
Compania se pregătește pentru a-și lansa noul model ”o3” în perioada următoare, ceea ce le-ar oferi testerilor mai puțin de o lună pentru a face verificările de siguranță. OpenAI spune că și-a eficientizat procesele de evaluare prin anumite teste automate, ce au dus la o scădere a timpului de verificare.
Din nou, lipsa unei legislații clare care să stabilească o perioadă minimă sau obligații ce trebuie respectate înainte ca un model AI să fie făcut public, companiile încep să-și dezvolte propriile standarde, care pot să creeze inegalități în privința nivelului de siguranță a inteligenței artificiale.
Discuția despre implementarea AI în societate trece mult prea ușor peste partea ce ține de siguranța acestei tehnologii sau folosirea ei în mod etic. În prezent, studiile despre siguranța AI reprezintă doar 2% din toate cercetările din acest domeniu, deși subiectul este, aparent, mereu discutat de guverne și companiile tech.
Impunerea unor standarde universale legate de AI ar presupune o reglementare serioasă, care lipsește din prioritățile instituțiilor – o problemă la nivel global, nu doar regional. Vidul legislativ de până acum este folosit de companii pentru a cere mai multe libertăți în numele eficienței, în timp ce siguranța și protejarea oamenilor încep să fie aspecte tot mai ignorate.
Leave a Comment