OpenAI accusata di frode sulla sicurezza di ChatGPT: il caso del Texas

Una nuova denuncia dopo una serie di contenziosi statali

OpenAI, la società californiana dietro il popolarissimo chatbot ChatGPT, continua a subire azioni legali negli Stati Uniti. Dopo le denunce presentate in Iowa, Kansas, Nebraska, West Virginia, Arkansas, Arizona, Idaho e Montana, è arrivata la più recente accusa dal procuratore generale del Texas. L’accusa, identica a quelle precedenti, sostiene che l’azienda abbia falsamente garantito la sicurezza del proprio prodotto, privilegiando i profitti rispetto alla protezione degli utenti, in particolare dei minori.

Il procuratore generale del Texas, Ken Paxton, ha presentato la denuncia contro OpenAI e il suo amministratore delegato Sam Altman, affermando che la compagnia ha “causato effetti collaterali negativi ai consumatori” e ha fornito una “rappresentazione fuorviante” delle capacità e dei limiti di ChatGPT.

Le accuse di pericolosità per gli utenti

Secondo il documento legale, ChatGPT è in grado di generare informazioni imprecise o dannose, con conseguenze reali sulla vita delle persone. La denuncia cita diversi casi di cronaca in cui il chatbot è stato coinvolto in situazioni critiche, tra cui:

• Incitamento a comportamenti suicidari da parte di utenti vulnerabili;
• Diffusione di contenuti che hanno alimentato violenze, inclusi episodi di stragi;
• Umiliazioni pubbliche rivolte a professionisti, con danni reputazionali;
• Compromissione del pensiero critico degli utenti, spingendoli a dipendere da risposte automatizzate;
• Raccolta di dati personali da parte di minori, sfruttando la capacità del modello di simulare empatia, senza supervisione genitoriale.

Questi fatti, secondo Paxton, dimostrano che OpenAI ha deliberatamente ignorato i rischi noti, puntando a “vincere la corsa all’intelligenza artificiale” e a “accumulare ingenti fortune”.

Violazione del Texas Deceptive Trade Practices—Consumer Protection Act

La denuncia si basa sul Texas Deceptive Trade Practices—Consumer Protection Act (DTPA), che vieta pratiche commerciali ingannevoli. L’avvocato dello Stato sostiene che OpenAI abbia violato il DTPA attraverso:

• Pubblicità fuorviante che descriveva ChatGPT come “sicuro per tutti gli utenti, inclusi i bambini”;
• Mancata informazione sui potenziali errori e bias del modello;
• Assenza di meccanismi di controllo parentale efficaci;
• Raccolta e utilizzo dei dati degli utenti minorenni senza consenso verificabile.

Il procuratore generale richiede al giudice di infliggere una sanzione di 10 000 dollari per ogni violazione individuata, oltre al rimborso delle spese legali sostenute dallo Stato.

Impatto sul panorama normativo e sulle pratiche di AI

La denuncia texana si inserisce in un contesto di crescente scrutinio legislativo nei confronti delle tecnologie di intelligenza artificiale. Stati come l’Illinois e la California hanno già introdotto normative più restrittive sulla trasparenza dei dati e sulla protezione dei minori. Se la causa texana avrà esito positivo, potrebbe creare un precedente giuridico importante per le future regolamentazioni federali.

OpenAI, da parte sua, ha finora risposto alle denunce con dichiarazioni generiche sulla “continua evoluzione dei sistemi di sicurezza” e sull’impegno a “collaborare con le autorità”. Tuttavia, non ha ancora fornito prove concrete su misure di mitigazione specifiche implementate per gli utenti texani.

Le richieste concrete del procuratore generale

Nel documento legale, Paxton elenca tre richieste principali:

• Una sanzione pecuniaria di 10 000 dollari per ogni violazione del DTPA;
• Il pagamento delle spese legali sostenute dallo Stato del Texas;
• Un ordine di ingiunzione che obblighi OpenAI a modificare le proprie pratiche di marketing, includendo avvisi chiari sui rischi e l’implementazione di controlli parentali verificabili.

Il caso è ancora in fase preliminare, ma le parti hanno fissato una data per la prima udienza preliminare entro i prossimi mesi.

Reazioni del settore e prospettive future

Le organizzazioni di difesa dei consumatori hanno accolto con favore la denuncia, sottolineando l’importanza di una tutela più forte per i minori in un’epoca in cui le interazioni con l’AI diventano quotidiane. Al contempo, alcune aziende tecnologiche hanno espresso preoccupazione per il rischio di “regolamentazioni eccessive” che potrebbero ostacolare l’innovazione.

Nel frattempo, gli esperti di etica dell’AI avvertono che la questione della “fiducia” nei sistemi di intelligenza artificiale non può essere risolta solo con sanzioni economiche, ma richiede un cambiamento culturale nella progettazione dei prodotti, con maggiore trasparenza, audit indipendenti e coinvolgimento degli utenti nella definizione dei limiti di utilizzo.

In conclusione, la denuncia del Texas rappresenta un nuovo capitolo nella lunga battaglia legale contro OpenAI, che dovrà dimostrare di poter bilanciare profitto e responsabilità sociale, garantendo che strumenti potenti come ChatGPT non diventino una minaccia per i consumatori più vulnerabili.