ChatGPT per adolescenti sotto esame: otto stati USA intentano causa contro OpenAI

Il contesto legale: otto stati uniti dicono basta

Nel mese di aprile 2024, le procure di California, New York, Texas, Florida, Illinois, Pennsylvania, Ohio e Washington hanno presentato una denuncia collettiva contro OpenAI, la società dietro ChatGPT. Il documento legale accusa l’azienda di aver lanciato “ChatGPT for Teens” senza implementare filtri di sicurezza sufficienti per proteggere i minori da contenuti violenti, sessuali o di odio.

Secondo i procuratori, la piattaforma permette a utenti di età compresa tra 13 e 17 anni di interagire con un modello linguistico avanzato, ma le misure di moderazione sono risultate inefficaci. Tra i casi citati, vi sono segnalazioni di adolescenti che hanno ricevuto consigli su sostanze illegali, istruzioni per cyberbullismo e persino suggerimenti per auto-lesionismo.

La denuncia richiede, tra l’altro, che OpenAI fornisca dati dettagliati sui protocolli di filtraggio, rimborsi per gli abbonamenti “ChatGPT Plus” acquistati da minori e un impegno a migliorare la trasparenza delle politiche di sicurezza entro 90 giorni.

Come funziona il filtro di sicurezza di ChatGPT for Teens

OpenAI ha dichiarato che “ChatGPT for Teens” utilizza un “layer di moderazione” basato su modelli di classificazione del contenuto, combinato con liste di parole chiave vietate. Tuttavia, la realtà operativa è più complessa:

• Classificazione a più livelli: il sistema analizza ogni risposta in tempo reale, assegnando un punteggio di rischio. Se il punteggio supera una soglia predefinita, la risposta viene bloccata o modificata.
• Lista nera dinamica: le parole e le frasi considerate pericolose vengono aggiornate quotidianamente da un team di revisori umani.
• Feedback degli utenti: gli utenti possono segnalare contenuti inappropriati, ma il processo di revisione può richiedere fino a 48 ore.

Critici affermano che questi meccanismi, pur essendo avanzati, non riescono a gestire il contesto e le sottili sfumature linguistiche tipiche dei teenager, portando a falsi negativi (contenuti pericolosi non bloccati) e falsi positivi (contenuti innocui erroneamente filtrati).

Esempi concreti di fallimenti del filtro

Nel corso dell’anno scorso, diversi genitori hanno condiviso su forum online casi in cui i loro figli hanno ricevuto risposte come “Come fabbricare una bomba fai-da-te” o “Consigli per nascondere l’uso di droghe”. In molti di questi casi, la risposta originale è stata modificata da OpenAI, ma gli utenti hanno trovato modi per aggirare il filtro usando sinonimi o linguaggio codificato.

Le risposte di OpenAI: difesa e promesse di miglioramento

OpenAI ha risposto alle accuse sottolineando che la sicurezza dei minori è una priorità assoluta. In una dichiarazione pubblica, l’azienda ha affermato di aver introdotto “ChatGPT for Teens” con un “piano di sicurezza a più livelli” e di aver collaborato con esperti di psicologia dell’adolescenza e con organizzazioni non profit per testare il prodotto.

Tra le misure promesse:

• Implementazione di un “controllo parentale” che permette ai genitori di impostare limiti di tempo e di contenuto.
• Rafforzamento del team di moderazione, con l’assunzione di 200 nuovi revisori specializzati in contenuti per giovani.
• Introduzione di un “audit di terze parti” annuale, affidato a società indipendenti per valutare l’efficacia dei filtri.

OpenAI ha inoltre offerto di sospendere temporaneamente l’accesso a “ChatGPT for Teens” in tutti gli stati coinvolti finché non saranno completati gli aggiornamenti richiesti.

Implicazioni per il settore dell’IA e per gli utenti minorenni

La causa contro OpenAI potrebbe avere ripercussioni su tutta l’industria dell’intelligenza artificiale. Se i tribunali dovessero stabilire che le aziende hanno l’obbligo legale di garantire filtri di sicurezza adeguati per i minori, potremmo assistere a una serie di normative federali simili a quelle già esistenti per i social media.

Inoltre, la vicenda ha sollevato un dibattito più ampio sulla responsabilità dei genitori: molti esperti suggeriscono di adottare un approccio “co‑coaching digitale”, dove gli adolescenti sono guidati nell’uso responsabile dell’IA, piuttosto che affidarsi esclusivamente a filtri automatizzati.

Azioni consigliate per genitori e educatori

Per proteggere i giovani utenti, si raccomandano le seguenti pratiche:

• Attivare le impostazioni di controllo parentale disponibili sulla piattaforma.
• Monitorare periodicamente le conversazioni, soprattutto se il teen utilizza account condivisi.
• Educare i ragazzi sui rischi di condividere informazioni personali e su come riconoscere consigli potenzialmente pericolosi.
• Utilizzare strumenti di terze parti per filtrare contenuti web a livello di rete domestica.

Prospettive future: verso un’IA più sicura per i giovani

Il caso legale potrebbe accelerare lo sviluppo di soluzioni più robuste, come l’integrazione di modelli di “sentiment analysis” specifici per l’età e l’uso di “prompt engineering” per limitare le richieste potenzialmente dannose. Alcune startup stanno già sperimentando sistemi di IA “sandboxed”, che operano in ambienti chiusi e non hanno accesso a internet, riducendo così il rischio di contenuti non monitorati.

Infine, la collaborazione tra governi, aziende tecnologiche e istituzioni educative sarà cruciale. Un quadro normativo chiaro, unito a standard di certificazione per i filtri di sicurezza, potrebbe diventare la base per una generazione di adolescenti che utilizza l’intelligenza artificiale in modo consapevole e protetto.