Rapporto sulla sicurezza comunitaria e nuove protezioni per i ragazzi

OpenAI ha pubblicato due importanti comunicati: l’introduzione di un Rapporto sulla sicurezza comunitaria e l’estensione delle restrizioni sui contenuti relativi alle armi per i minori. Il nuovo rapporto, previsto per l’inizio del 2027, fornirà dati anonimi, esempi di casi di violenza e l’efficacia dei sistemi di mitigazione.

Impegno per la sicurezza comunitaria

Il benessere delle comunità rimane la massima priorità per OpenAI. Nel terzo trimestre del 2026 sono state inoltrate più di 200 segnalazioni a forze dell’ordine, contribuendo a prevenire potenziali atti violenti. Le collaborazioni con esperti di salute mentale e di comportamento sono fondamentali per valutare casi complessi.

OpenAI riconosce un ruolo complementare rispetto alle autorità, ai familiari, ai professionisti della salute mentale e ai decisori politici. L’azienda si impegna a potenziare i sistemi, condividere le conoscenze acquisite e lavorare direttamente con gli attori più competenti per intervenire sul territorio.

Il nuovo Rapporto sulla sicurezza comunitaria

Il rapporto tratterà la prevenzione della violenza, l’efficacia delle salvaguardie e i rischi osservati nella pratica. Sarà pubblicato ogni sei mesi, partendo dal secondo semestre del 2026, con aggiornamenti costanti. Gli elementi chiave includeranno:

• Come i sistemi vengono addestrati a rilevare, indagare e rispondere ai problemi di sicurezza;
• Esempi anonimizzati di manifestazioni di danni legati alla violenza;
• Nuove mitigazioni e modifiche politiche;
• Dati rilevanti che supportano le conclusioni.

Il documento offrirà trasparenza sul funzionamento delle salvaguardie e sulle strategie di miglioramento.

Politiche di sicurezza rafforzate per tutti gli utenti

OpenAI ha intensificato i limiti sui contenuti relativi a violenza. I modelli ora non forniranno istruzioni per pianificare o eseguire atti violenti e limiteranno le informazioni dettagliate su attacchi di massa, inclusi armi e equipaggiamento. Queste restrizioni valgono per tutti gli utenti, indipendentemente dall’età.

Il modello potrà rispondere a richieste che mirano a comprendere gli eventi, l’impatto sulle vittime e i segnali di allerta, ma impedirà la ricostruzione dettagliata delle operazioni di violenza.

Riconoscimento e risposta ai segnali di allerta

OpenAI ha sviluppato tecniche per rilevare segnali di pericolo anche in conversazioni apparentemente innocue. Se un utente mostra segni di intenzioni violente o è minorenne, il modello può interrompere la chat in modo automatico. In caso di ripetute violazioni, l’account può essere temporaneamente sospeso.

Le segnalazioni di violazioni delle politiche sono gestite in collaborazione con esperti di salute mentale e prevenzione della violenza, con l’obiettivo di intervenire prima che la situazione degeneri.

Maggiore protezione per i ragazzi

Il servizio ChatGPT for Teens applica salvaguardie adeguate all’età per gli utenti sotto i 18 anni, con ulteriori limitazioni sui contenuti relativi alle armi. Le nuove regole impediscono la fornitura di informazioni pratiche su armi e sistemi di sicurezza che potrebbero essere sfruttati per commettere violenza, anche in assenza di segni di intenzione violenta.

I ragazzi possono continuare a usare ChatGPT per prevenire e de-escalare la violenza, cercare supporto e collegarsi a adulti di fiducia.

Previsione dell’età e verifica

Il sistema di previsione dell’età, lanciato l’anno scorso, analizza vari segnali di comportamento per stimare l’età dell’utente. È stato ulteriormente rafforzato per monitorare costantemente nuovi segnali e spostare i minori nell’esperienza “under 18” quando necessario. Gli utenti erratamente classificati possono confermare la propria età in modo rapido e privato tramite il partner Persona.

Controlli parentali e avvisi di sicurezza

I genitori possono collegare i loro account a quelli dei figli, gestendo insieme le impostazioni di sicurezza. I collegamenti includono avvisi di sicurezza quando un revisore identifica un serio rischio di autolesionismo o disturbi alimentari. Ad agosto, sono stati introdotti avvisi che notificano ai genitori la disattivazione dell’account di un ragazzo per violazioni delle politiche di violenza.

Stiamo lavorando per implementare notifiche aggiuntive per i genitori se l’account del ragazzo viene sospeso per discussioni violente ripetute.

Prospettive future

Gli atti di violenza reali sono complessi e richiedono un approccio continuo alla progettazione e all’iterazione dei sistemi. OpenAI continuerà a investire, a sviluppare e a condividere le proprie esperienze sul modo migliore di implementare le protezioni proposte. Le salvaguardie descritte inizieranno a essere distribuite nelle prossime settimane e verranno costantemente raffinate.

L’azienda rimane determinata a mitigare i rischi di danno, a rafforzare le protezioni stratificate, a monitorare gli usi impropri, a far rispettare le regole e a coinvolgere l’intervento reale quando la situazione lo richiede.