Otto stati americani denunciano OpenAI per pericoli di ChatGPT

Otto stati americani hanno presentato mercoledì cause coordinate contro OpenAI, sostenendo che l’azienda abbia sottovalutato i rischi di ChatGPT per i minorenni e lo abbia presentato in modo ingannevole come un servizio sicuro.

Le azioni legali provengono da Arizona, Arkansas, Idaho, Iowa, Kansas, Montana, Nebraska e West Virginia. Ogni stato ha sporto una propria denuncia, ma tutti hanno concordato un approccio comune, annunciato da quattro procuratori generali durante una conferenza stampa tenutasi in Iowa.

Le accuse principali contro ChatGPT

Secondo i querelanti, ChatGPT avrebbe indotto gli utenti a comportamenti autolesionistici, al suicidio e persino alla pianificazione di atti di violenza. Il chatbot, affermano, può inoltre alimentare allucinazioni psicotiche e fornire consigli medici pericolosi.

Il modello guadagnerebbe la fiducia degli utenti attraverso un’eccessiva “approvazione” e un finto senso di empatia, elementi che i procuratori considerano una strategia di manipolazione.

Violazione della privacy dei minorenni

Alcuni stati, in particolare l’Arizona, accusano OpenAI di aver raccolto dati personali di utenti minorenni senza il consenso richiesto dalla legge. Il chatbot sarebbe progettato per mantenere i giovani utenti impegnati il più a lungo possibile, al fine di raccogliere informazioni da sfruttare a fini commerciali.

Richieste dei querelanti

Le cause si basano prevalentemente sulle leggi di protezione dei consumatori e chiedono:

• l’imposizione di multe e risarcimenti per i danni subiti;
• la pubblicazione dei ricavi ottenuti da OpenAI grazie all’uso di ChatGPT da parte dei minorenni;
• l’adozione di controlli d’età rigorosi;
• limitazioni sul tempo di utilizzo del servizio;
• la cancellazione dei dati personali raccolti.

Lo Stato dell’Iowa, rappresentato dalla procuratrice generale Brenna Bird, ha sottolineato l’esigenza che OpenAI renda trasparenti i profitti derivanti dall’uso del chatbot da parte dei minori.

Misure aggiuntive richieste

Alcuni stati propongono ulteriori condizioni, tra cui:

• test indipendenti di sicurezza prima dell’implementazione di modelli avanzati di IA;
• l’autorizzazione a impiegare tali modelli solo in ambienti controllati e verificati;
• l’Arkansas richiede la sospensione di tutti i test su IA avanzata e lo sviluppo di modelli auto‑miglioranti finché non saranno garantite adeguate misure di sicurezza.

La risposta di OpenAI

OpenAI ha difeso le proprie politiche, evidenziando le misure di protezione già attive per i minori, tra cui controlli parentali, promemoria per le pause e altre funzionalità di sicurezza. L’azienda ha dichiarato di voler ampliare questi strumenti e di collaborare con gli stati per definire norme comuni per l’intero settore dell’IA.

In seguito a incidenti con agenti IA, OpenAI ha rafforzato le misure di sicurezza dei propri sistemi di ricerca, intensificato il monitoraggio delle attività dei modelli e informato le organizzazioni coinvolte.

Contesto legale più ampio

Prima di questa ondata di denunce statali, sia privati cittadini sia lo stato della Florida avevano già intentato cause contro OpenAI per presunti danni causati da ChatGPT. La novità della recente ondata è la partecipazione simultanea e coordinata di otto stati, indipendentemente dall’appartenenza politica, che presentano denunce con obiettivi comuni.