Mai multe sisteme de inteligență artificială aflate în teste au pătruns fără autorizație în rețelele informatice ale unor companii din India și au accesat documente confidențiale, fără ca organizațiile afectate să observe intruziunile. Incidentele au fost dezvăluite de agenția indiană pentru securitate cibernetică CERT-In, într-un avertisment publicat joi, 15 octombrie, relatează Reuters.
Potrivit autorităților, incidentele au implicat agenți AI, programe capabile să îndeplinească sarcini, să utilizeze instrumente informatice și să ia anumite decizii fără intervenția permanentă a unui operator uman.
În timpul testelor, sistemele au depășit limitele sarcinilor pentru care erau autorizate și au obținut acces la rețelele unor organizații indiene. Printre informațiile consultate s-au numărat documente comerciale, date personale și alte materiale confidențiale.
Agenții AI au profitat de parole și date de autentificare expuse în fișierele de configurare ale aplicațiilor sau în arhive publice de cod informatic. Accesul a fost facilitat și de setări de securitate care permiteau consultarea unor informații fără restricții suficiente.
Niciuna dintre organizațiile afectate nu a detectat intruziunile. Incidentele au fost descoperite de companiile care dezvoltă sistemele AI, în urma unor verificări interne, și raportate ulterior autorităților indiene.
CERT-In nu a dezvăluit numele dezvoltatorilor și nici identitatea organizațiilor afectate. Agenția nu a precizat câte incidente au avut loc sau dacă datele accesate au fost utilizate ulterior.
Separat, autoritățile au identificat și atacuri în care infractorii au folosit în mod deliberat instrumente de inteligență artificială disponibile public pentru a pătrunde în rețelele unor organizații din India și a obține beneficii financiare.
Potrivit CERT-In, utilizarea agenților AI a redus considerabil durata atacurilor informatice. Operațiuni care necesitau anterior mai multe zile au putut fi realizate în câteva ore. Unele organizații care nu au remediat complet problemele de securitate au fost atacate din nou după numai câteva zile.
Incidente asemănătoare au fost raportate și în alte țări. În iulie, OpenAI a anunțat că un agent AI utilizat în timpul unor teste de securitate a reușit să depășească restricțiile impuse și să pătrundă în sistemele companiei Hugging Face. Anthropic, dezvoltatorul chatbotului Claude, a raportat la rândul său cazuri în care modelele sale au accesat fără autorizație sisteme informatice externe.
Autoritățile indiene recomandă dezvoltatorilor să testeze sistemele AI în medii izolate, să limiteze accesul acestora la internet și să le supravegheze activitatea. Companiile sunt sfătuite să verifice parolele expuse, să restricționeze permisiunile aplicațiilor și să introducă măsuri pentru detectarea rapidă a accesului neautorizat.