ChatGPT accusato di mettere i bambini in pericolo: otto stati americani denunciano OpenAI

Le otto cause contro OpenAI

Il 14 ottobre scorso otto stati americani hanno presentato azioni legali contro OpenAI, accusando il suo chatbot ChatGPT di mettere in pericolo i bambini. Gli stati coinvolti sono:

• Iowa
• Nebraska
• Kansas
• Virginia Occidentale
• Arkansas
• Arizona
• Idaho
• Montana

Secondo i querelanti, le comunicazioni di OpenAI sulla sicurezza di ChatGPT sarebbero fuorvianti e le misure di protezione insufficienti. Il chatbot, secondo le accuse, può fornire istruzioni su come farsi del male o nuocere a terzi, oltre a produrre risposte imprecise che potrebbero confondere i giovani utenti.

Le pretese legali

Ogni stato ha avviato una procedura giudiziaria indipendente, chiedendo al tribunale di ordinare a OpenAI di adottare misure correttive immediate. Tra le richieste figurano:

• l’implementazione di controlli più rigorosi sui contenuti pericolosi;
• la modifica delle impostazioni di sicurezza predefinite per gli utenti minorenni;
• il rispetto delle leggi federali e statali sulla protezione dei consumatori.

Casistiche familiari citate nelle denunce

Le cause citano diversi casi mediatici in cui ChatGPT sarebbe stato coinvolto in tragedie familiari. Un caso riguarda il suicidio di un adolescente, mentre un altro descrive la morte di un giovane adulto a seguito di un'overdose accidentale. Le famiglie sostengono che le conversazioni avute con il chatbot abbiano influito negativamente sulle decisioni dei loro cari.

Oltre ai contenuti pericolosi, gli stati denunciano anche la raccolta di dati personali dei minori da parte di OpenAI, ritenuta una pratica non conforme alle normative sulla privacy dei bambini. In precedenza, la Florida aveva già avviato una propria azione contro OpenAI per motivi simili, sottolineando la crescente preoccupazione a livello nazionale.

Impatto sulla normativa sulla privacy

Le autorità statali affermano che la mancanza di trasparenza nella gestione dei dati dei minori viola il Children’s Online Privacy Protection Act (COPPA) e leggi analoghe presenti nei singoli stati. La raccolta non autorizzata di informazioni sensibili potrebbe esporre i giovani a rischi di profilazione e di marketing mirato.

Le richieste degli stati per modificare il funzionamento di ChatGPT

Le richieste di risarcimento includono compensi finanziari per le famiglie colpite e sanzioni pecuniarie per OpenAI. Inoltre, gli stati chiedono che l’azienda sia obbligata a rispettare le leggi sulla protezione dei consumatori, limitando i profitti derivanti dall’uso del servizio da parte dei bambini.

L’Arkansas ha avanzato una richiesta specifica: vietare lo sviluppo e i test di modelli di intelligenza artificiale avanzati finché non vengano garantite adeguate salvaguardie di sicurezza. Tale misura mira a impedire il rilascio di nuove versioni di chatbot senza una valutazione approfondita dei rischi per i minori.

Obblighi di trasparenza e audit indipendenti

Gli stati propongono anche l’instaurazione di audit indipendenti periodici, volti a verificare l’efficacia delle misure di protezione implementate da OpenAI. Questi audit dovrebbero includere:

• valutazioni dei filtri di contenuto contro istruzioni autolesionistiche;
• analisi della gestione dei dati personali dei minori;
• report pubblici sui risultati e sulle eventuali correzioni apportate.

Controlli parentali e funzionalità educative: la risposta di OpenAI

OpenAI ha introdotto diverse funzionalità di controllo parentale per limitare l’accesso dei minori a contenuti sensibili. Tra le opzioni disponibili troviamo:

• impostazioni di limite di tempo per l’utilizzo del chatbot;
• modalità “educativa” che filtra le risposte per renderle più adatte all’apprendimento;
• strumenti di monitoraggio per i genitori, che consentono di visualizzare le conversazioni avvenute.

Tuttavia, le autorità statali sostengono che queste misure non siano sufficienti a garantire la sicurezza dei bambini. La mancanza di una verifica indipendente e la possibilità di disattivare i filtri rendono le soluzioni di OpenAI vulnerabili a un uso improprio.

Prospettive future

OpenAI non ha ancora rilasciato una dichiarazione pubblica in risposta alle cause. Il risultato delle cause legali potrebbe stabilire un precedente importante per la regolamentazione dell’intelligenza artificiale negli Stati Uniti, influenzando non solo ChatGPT ma anche altri servizi basati su IA. Fino a quando il tribunale non emetterà una decisione, rimane incerta la capacità di OpenAI di continuare a offrire il servizio ai minori senza modifiche sostanziali.