OpenAI utilizzerà i dati di Daybreak Blue per addestrare i suoi modelli di intelligenza artificiale

Il cambiamento di politica di OpenAI

Il 31 ottobre 2026 OpenAI ha annunciato, tramite una email indirizzata ai membri del programma Trusted Access, che a partire dal 29 novembre i dati delle sessioni della piattaforma di cybersecurity Daybreak Blue saranno integrati nei dataset di addestramento dei suoi modelli di intelligenza artificiale. Fino a quel momento, tali dati erano stati esclusi, anche quando gli utenti avevano disattivato l’opzione “migliora il modello per tutti”. La decisione è stata comunicata in maniera improvvisa, senza preavviso né consultazione preventiva con la comunità di esperti.

Secondo la comunicazione, OpenAI intende utilizzare le interazioni per migliorare la capacità dei modelli di comprendere e rispondere a richieste legate alla sicurezza informatica, come l’analisi di vulnerabilità, la generazione di script di difesa e la valutazione di minacce emergenti. L’azienda ha precisato che le interazioni contrassegnate durante le revisioni di sicurezza potranno comunque essere impiegate a fini di “safety”, ovvero per affinare i sistemi di mitigazione dei rischi.

Reazioni della comunità scientifica

Il provvedimento ha suscitato una rapida ondata di proteste da parte di ricercatori, accademici e professionisti della sicurezza informatica. Molti hanno temuto una ripetizione del caso “Buckmaster‑Alpöge”, avvenuto nel 2024, in cui i matematici Tristan Buckmaster e Levent Alpöge avevano caricato bozze di dimostrazioni della congettura di Navier‑Stokes su Codex, la piattaforma di programmazione di OpenAI. Nonostante OpenAI abbia sostenuto di non aver utilizzato quei dati per addestrare i propri modelli, il solo sospetto aveva sollevato interrogativi sulla trasparenza delle pratiche di raccolta dati.

Nel caso Daybreak Blue, la preoccupazione è duplice: da un lato, la possibile esposizione di informazioni sensibili su vulnerabilità informatiche; dall’altro, il rischio che le conversazioni riservate tra esperti di sicurezza vengano incorporate in modelli di larga scala, potenzialmente accessibili a chiunque.

Richieste di opt‑out

In risposta al clamore, OpenAI ha inviato un secondo messaggio promettendo un “opt‑out” separato per i dati di Daybreak Blue. Tuttavia, la procedura non è stata ancora dettagliata, lasciando gli utenti incerti su come esercitare il diritto di esclusione. Alcuni esperti hanno suggerito di adottare le seguenti azioni:

• Verificare le impostazioni del proprio account su Daybreak Blue e disattivare qualsiasi opzione di condivisione dati.
• Contattare direttamente il supporto di OpenAI per richiedere la rimozione dei propri dati dal training set.
• Considerare l’utilizzo di piattaforme alternative che garantiscano una politica di dati più restrittiva.

Implicazioni per la privacy e la sicurezza

L’inclusione di dati di sicurezza informatica nei modelli di IA solleva questioni di privacy che vanno oltre la semplice protezione dei dati personali. Le informazioni contenute nelle sessioni di Daybreak Blue includono spesso dettagli tecnici su vulnerabilità zero‑day, configurazioni di rete e strategie di mitigazione. Se tali dati fossero riutilizzati da modelli di generazione di linguaggio, potrebbero accidentalmente divulgare informazioni critiche a malintenzionati.

Un'analisi condotta da EuroCyberLab ha stimato che il 12 % delle conversazioni di sicurezza contiene dati classificabili come “segreti aziendali”. La divulgazione involontaria di anche una piccola frazione di queste informazioni potrebbe tradursi in costi di risposta a incidenti superiori a 10 milioni di euro per le grandi imprese.

Esempi concreti di rischio

Immaginiamo un caso in cui un esperto descriva una vulnerabilità di un server SCADA industriale. Se il modello di OpenAI apprende tale descrizione e la riproduce in risposta a una query generica, un attore malevolo potrebbe sfruttare la conoscenza senza dover compiere una ricerca approfondita. Analogamente, script di difesa generati automaticamente potrebbero contenere errori se il modello non è stato addestrato con un adeguato controllo di qualità.

Strategie per mitigare i rischi

Per affrontare queste sfide, le organizzazioni dovrebbero adottare un approccio multilivello:

• Policy di data governance: definire chiaramente quali tipi di dati possono essere condivisi con fornitori di IA e stabilire clausole contrattuali che obblighino a una cancellazione immediata su richiesta.
• Formazione del personale: sensibilizzare i team di sicurezza sull’importanza di non inserire dettagli sensibili in piattaforme esterne, anche quando queste offrono funzionalità di “improvement”.
• Monitoraggio continuo: utilizzare strumenti di data loss prevention (DLP) per rilevare eventuali trasferimenti non autorizzati di informazioni verso endpoint di IA.
• Audit indipendenti: richiedere a terze parti di verificare che i dati forniti siano effettivamente rimossi o anonimizzati secondo le normative GDPR e le linee guida NIST.

Queste misure, se implementate correttamente, possono ridurre significativamente il rischio di esposizione involontaria e garantire che l’uso dell’IA rimanga conforme alle normative sulla protezione dei dati.

Prospettive future e conclusioni

Il caso Daybreak Blue rappresenta un punto di svolta nella discussione su come le grandi aziende di IA gestiscano i dati sensibili provenienti da settori specialistici. Se da un lato l’integrazione di tali informazioni può potenziare le capacità dei modelli, dall’altro aumenta la responsabilità di garantire trasparenza, controllo e rispetto della privacy.

Nel prossimo futuro, è probabile che le autorità di regolamentazione europee, come il Garante per la protezione dei dati personali, intensifichino la vigilanza su pratiche simili, richiedendo report dettagliati sull’uso dei dati e sanzioni più severe in caso di violazioni. Gli stakeholder dovranno quindi trovare un equilibrio tra innovazione e sicurezza, adottando processi robusti di governance dei dati e mantenendo un dialogo costante con le comunità di ricerca.