UPDATE/OpenAI recunoaște un incident fără precedent: un agent AI a lansat un atac cibernetic după ce a „evadat” din mediul de testare

ActualitateEconomie by Actual de Cluj - iul. 22, 2026 0 118

OpenAI a anunțat că unul dintre agenții săi autonomi de inteligență artificială a depășit limitele mediului de testare în care era evaluat și a ajuns să lanseze un atac cibernetic asupra platformei Hugging Face, într-un incident pe care compania îl descrie drept „fără precedent”.

UPDATE:

Dan Oros, director de marketing la Google & YouTube pentru Europa Centrală și de Est, investitor în tehnologie și lector pe teme de AI și startup-uri, explică într-o postare despre controversele apărute recent în jurul inteligenței artificiale că modelele AI nu au conștiință sau voință proprie, ci acționează în funcție de obiectivele stabilite de oameni.

El spune că un incident de securitate în care modelele au reușit să găsească soluții pentru a depăși limitele unui mediu de testare nu reprezintă „o revoltă” a AI-ului, ci un exemplu de „reward hacking” – situația în care un model identifică cea mai eficientă cale pentru atingerea unui obiectiv primit.

Potrivit lui Oros, modelele testate au avut ca scop obținerea unui scor cât mai bun într-un benchmark de securitate. În cadrul experimentului, protecțiile obișnuite au fost eliminate pentru a măsura capacitatea maximă a sistemelor, iar AI-ul a identificat vulnerabilități și a construit pași succesivi pentru a-și îndeplini sarcina.

„Concluzia nu este că AI-ul are voință proprie, ci că devine foarte bun la rezolvarea problemelor spre care este direcționat”, susține Dan Oros, care atrage atenția că evoluția acestor sisteme ridică mai degrabă probleme legate de modul în care sunt stabilite obiectivele și limitele lor de utilizare.

Știre inițială:

Potrivit Reuters, sistemul era testat într-un mediu controlat și izolat, destinat evaluării capabilităților modelelor avansate de inteligență artificială. Cu toate acestea, agentul AI a reușit să obțină acces la internet și să pătrundă în infrastructura Hugging Face, încercând să își îndeplinească obiectivul stabilit în cadrul testului.

OpenAI susține că lucrează deja la consolidarea măsurilor de securitate și a mecanismelor de izolare folosite în testarea sistemelor de inteligență artificială, pentru a preveni repetarea unor astfel de situații.

Incidentul vine după ce, săptămâna trecută, Hugging Face, una dintre cele mai importante platforme pentru găzduirea modelelor AI și a seturilor de date open-source, a anunțat că a fost ținta unui atac cibernetic neobișnuit. Compania a precizat că operațiunea s-a diferențiat de atacurile clasice prin faptul că ar fi fost coordonată în întregime de un sistem autonom bazat pe agenți AI.

Cofondatorul Hugging Face, Clement Delangue, declara la acel moment că nivelul ridicat de sofisticare al atacului i-a determinat pe specialiști să suspecteze implicarea unui laborator aflat în avangarda dezvoltării inteligenței artificiale. După explicațiile oferite de OpenAI, acesta a remarcat că toate acțiunile au fost realizate în mod autonom.

Dezvăluirile au reaprins dezbaterea privind siguranța sistemelor AI de ultimă generație. Congresmanul american Greg Casar a calificat incidentul drept alarmant și a cerut introducerea unor mecanisme mai stricte de supraveghere, inclusiv evaluări independente de siguranță, raportarea obligatorie a incidentelor și o cooperare internațională mai amplă în domeniu.

Până în prezent, autoritățile americane responsabile de securitatea cibernetică nu au comentat public cazul.

Experții în securitate avertizează că incidentul reprezintă un nou semnal de alarmă privind evoluția agenților autonomi. Katie Moussouris, director executiv al Luta Security, a comparat modelele actuale cu „entități extrem de ingenioase specializate în evadare”, în timp ce Matt Suiche, inginer în cadrul companiei Tolmo, consideră că evenimentul demonstrează cât de aproape au ajuns sistemele AI de capabilitățile utilizate în prezent de atacatorii cibernetici avansați.

Potrivit acestuia, tehnicile descrise de OpenAI nu mai sunt rezervate exclusiv marilor laboratoare de cercetare, ci pot fi reproduse și cu tehnologii disponibile pe scară largă.

Incidentul este considerat unul dintre cele mai importante semnale de avertizare privind riscurile asociate dezvoltării inteligenței artificiale autonome și ar putea accelera adoptarea unor reglementări mai stricte în domeniu.

sursă foto: captura Reuters

Nici un comentariu