Președintele american Donald Trump și reprezentanții unor companii de tehnologie au semnat marți, 29 septembrie, un acord voluntar privind siguranța inteligenței artificiale. Documentul stabilește o serie de măsuri de control și verificare a sistemelor AI, inclusiv evaluări realizate de auditori independenți.
Ce prevede acordul
La reuniunea organizată la Casa Albă au participat reprezentanți ai OpenAI, Anthropic, Meta, Google și Nvidia, între care Greg Brockman, Dario Amodei, Mark Zuckerberg, Sundar Pichai și Jensen Huang. Printre participanți s-a aflat și Elon Musk.
Acordul stabilește patru niveluri de control pentru companiile participante. Firmele urmează să monitorizeze comportamentul și capacitățile modelelor AI atât în perioada de dezvoltare, cât și după lansare, inclusiv în domenii sensibile precum securitatea cibernetică, biologia și amenințările chimice.
Companiile trebuie să formeze echipe interne care să verifice funcționarea mecanismelor de siguranță și să colaboreze cu evaluatori externi independenți. La nivelul conducerii, un comitet independent al consiliului de administrație ar urma să primească rapoarte de la echipele interne și de la auditorii externi.
Unul dintre obiective este prevenirea situațiilor în care sistemele AI ar putea accesa sau compromite sisteme informatice în mod neintenționat. Companiile participante au convenit, de asemenea, să se întâlnească periodic pentru stabilirea unor standarde și practici comune de siguranță.
Înțelegerea nu introduce obligații legale pentru companiile semnatare. Trump a descris documentul drept „morally binding” – obligatoriu din punct de vedere moral – și a declarat că industria trebuie să își supravegheze în mare măsură propriile tehnologii.
Acordul menționează însă că unele dintre măsurile convenite ar putea fi incluse, în viitor, în legi sau reglementări. Trump a comparat acordul cu o „constituție” pentru companiile participante și a anunțat că analizează și formarea unui grup de aproximativ zece persoane care să urmărească problemele legate de siguranța AI. Componența unui asemenea organism nu a fost anunțată.
Discuțiile au loc într-o perioadă în care riscurile sistemelor AI avansate sunt analizate tot mai atent. Reuters notează că OpenAI și Anthropic au raportat anterior cazuri în care agenți AI au avut comportamente neprevăzute și au accesat sisteme ale altor companii, situații care au intensificat dezbaterea privind mecanismele de control.