Consiliul de Securitate al ONU discută miercuri, 23 septembrie, impactul dezvoltării rapide a inteligenței artificiale asupra securității internaționale. La reuniune sunt invitați reprezentanți ai unor companii importante din domeniu, între care OpenAI, Anthropic și compania chineză DeepSeek.
Reuniunea are loc în timpul Adunării Generale a ONU de la New York și este organizată sub președinția Franței. Tema înscrisă pe agenda Consiliului de Securitate este „Inteligența artificială și securitatea internațională”.
Directorul general al OpenAI, Sam Altman, urmează să prezinte poziția companiei, iar la discuții sunt așteptați și reprezentanți de rang înalt ai Anthropic. DeepSeek a primit, la rândul său, invitația de a participa la reuniune.
Compania chineză Moonshot AI se numără, de asemenea, printre participanții invitați.
Riscurile AI intră pe agenda securității internaționale
Discuția are loc pe fondul preocupărilor privind utilizarea inteligenței artificiale în atacuri cibernetice, operațiuni militare, manipularea informației și dezvoltarea unor sisteme capabile să funcționeze cu un grad tot mai ridicat de autonomie.
O altă temă privește controlul asupra sistemelor avansate de inteligență artificială și posibilitatea stabilirii unor standarde internaționale comune pentru dezvoltarea și utilizarea lor.
Consiliul de Securitate a discutat pentru prima dată în mod oficial riscurile legate de inteligența artificială în 2023. Reuniunea din 23 septembrie readuce subiectul în centrul dezbaterilor într-un moment în care modelele dezvoltate de companiile americane și chineze au devenit mai performante și mai răspândite.
OpenAI și Anthropic cer standarde pentru sistemele avansate
OpenAI a cerut în ultimele zile stabilirea unor standarde tehnice internaționale pentru sistemele avansate de inteligență artificială și pentru raportarea incidentelor legate de acestea.
Sam Altman urmează să prezinte în fața Consiliului de Securitate poziția OpenAI privind dezvoltarea în condiții de siguranță a inteligenței artificiale și cooperarea internațională în domeniu.
Anthropic a avertizat în repetate rânduri asupra posibilității ca modelele avansate să fie utilizate în atacuri cibernetice sau în alte activități periculoase. Compania a publicat în septembrie un raport privind cazuri în care actorii rău-intenționați au încercat să folosească modelul Claude pentru asemenea operațiuni.
DeepSeek aduce perspectiva industriei chineze
Participarea DeepSeek aduce la aceeași masă reprezentanți ai unor companii aflate în centrul competiției tehnologice dintre Statele Unite și China.
Companiile chineze au dezvoltat în ultimii ani modele capabile să concureze cu sistemele produse de laboratoarele americane, în timp ce Washingtonul a impus restricții asupra exportului către China al unor cipuri avansate utilizate pentru dezvoltarea inteligenței artificiale.
Statele Unite și China au poziții diferite și asupra modului în care trebuie gestionate riscurile generate de tehnologie. În Statele Unite există dezbateri privind necesitatea unor mecanisme de siguranță pentru sistemele foarte avansate, în timp ce Beijingul a criticat măsurile care ar putea limita dezvoltarea companiilor chineze și accesul acestora la tehnologii esențiale.
Secretarul general al ONU, António Guterres, a cerut marți dezvoltarea unui cadru internațional pentru gestionarea riscurilor generate de inteligența artificială și mecanisme independente de supraveghere.