Opt state americane au dat în judecată OpenAI, compania care dezvoltă ChatGPT, susținând că chatbotul pune în pericol copiii și adolescenții. Autoritățile acuză compania că nu informează corect utilizatorii despre riscurile serviciului și că unele răspunsuri ar încuraja comportamente periculoase, inclusiv automutilarea și violența.
Procesele au fost deschise miercuri, 14 octombrie, de statele Arizona, Arkansas, Idaho, Iowa, Kansas, Montana, Nebraska și Virginia de Vest. Fiecare stat a depus separat plângerea la o instanță locală, în cadrul unei acțiuni coordonate, relatează Reuters.
Procurorii susțin că ChatGPT este conceput să ofere răspunsuri amabile și să câștige încrederea utilizatorilor. În anumite situații însă, chatbotul ar întări convingeri false, ar oferi sfaturi medicale periculoase și ar încuraja persoanele vulnerabile să își facă rău. În plângeri sunt menționate și cazuri în care inteligența artificială ar fi oferit indicații pentru pregătirea unor atacuri armate.
OpenAI este acuzată că a încălcat legislația privind protecția consumatorilor, prezentând ChatGPT drept un serviciu sigur, fără să avertizeze suficient asupra riscurilor.
Procurorul general al statului Iowa, Brenna Bird, susține că părinții sunt induși în eroare în privința siguranței platformei. Aceasta a criticat faptul că chatbotul poate câștiga încrederea copiilor printr-un comportament asemănător celui al unui prieten, deși răspunsurile sale pot avea consecințe grave.
Cele opt state cer instanțelor să oblige OpenAI să introducă măsuri suplimentare pentru protejarea utilizatorilor, în special a minorilor. Procurorii solicită și sancțiuni financiare și despăgubiri. Printre cereri se numără și interzicerea dezvoltării unor modele de inteligență artificială care se pot îmbunătăți singure, până când compania poate demonstra că acestea respectă anumite condiții de siguranță.
OpenAI susține că a introdus deja măsuri speciale pentru protejarea adolescenților. Compania a transmis că sistemul destinat utilizatorilor minori este conceput să limiteze răspunsurile referitoare la sinucidere, violență și alte subiecte sensibile. Reprezentanții OpenAI afirmă că lucrează și cu specialiști independenți pentru a îmbunătăți siguranța ChatGPT.
Nu este primul proces de acest fel împotriva companiei. În iunie, statul Florida a deschis o acțiune în justiție pe baza unor acuzații similare. OpenAI se confruntă și cu alte procese intentate de persoane care susțin că răspunsurile ChatGPT au contribuit la acte de violență.