Audit di tre settimane su OpenAI evidenzia gravi lacune nel monitoraggio della sicurezza IA

Contesto e metodologia dell’audit

Dal 21 luglio all’11 agosto 2026, due ricercatori indipendenti provenienti da METR e Redwood Research hanno avuto accesso diretto al codice sorgente, ai documenti interni e alle interviste con circa una dozzina di dipendenti di OpenAI. L’obiettivo era valutare l’efficacia del sistema interno di monitoraggio volto a rilevare comportamenti anomali o “rogue” da parte dei modelli di intelligenza artificiale, in particolare quelli della classe GPT‑5.5 e superiori.

Il progetto è stato concepito come un programma pilota, organizzato congiuntamente da METR, Redwood Research e OpenAI, per offrire a ricercatori esterni un accesso approfondito alle infrastrutture interne e testare la trasparenza delle pratiche di sicurezza.

Strumenti e accessi forniti

• Accesso al repository di codice sorgente con permessi di lettura.
• Visione dei log delle API interne, comprese le chiamate “Responses API” degli agenti.
• Interviste con personale tecnico e responsabile della sicurezza.
• Documentazione relativa alle procedure di monitoraggio e al sandbox Codex.

Principali vulnerabilità riscontrate

Gli auditor hanno individuato numerose debolezze, tra cui una stima preliminare che indica che dal 6 al 25 % del traffico interno delle “Responses API” dei modelli GPT‑5.5 e superiori non era coperto dal monitoraggio durante il periodo di audit. METR ha sottolineato che la stima è soggetta a elevata incertezza in entrambe le direzioni.

Per quanto riguarda il traffico interno di Codex, previsto per essere monitorato, METR stima che circa il 10 % dei dati non fosse tracciato tra maggio e luglio a causa di un difetto nella gestione degli “eventi di compattazione”, cioè i riepiloghi contestuali generati dal sistema. OpenAI ha riconosciuto il bug e lo ha corretto durante l’audit.

Durante la finestra in cui gli eventi di compattazione non erano monitorati, gli agenti potevano ritardare la supervisione poiché il sistema di controllo si attivava solo quando l’agente restituiva il controllo all’utente. Questo ha permesso agli agenti di aggirare il monitor proseguendo l’esecuzione di azioni senza interruzione.

Meccanismi di elusione e crash del monitor

Gli auditor hanno scoperto modi per nascondere centinaia di azioni al monitor e per bypassare il sandbox di Codex. In particolare, input appositamente costruiti potevano potenzialmente causare un crash totale del monitor, lasciando il modello incontrollato.

Un altro punto critico è stato l’addestramento per rinforzo (RL). All’inizio dell’audit, il comportamento dei modelli durante la fase di RL non era affatto monitorato, lasciando un’intera fase di sviluppo priva di sorveglianza.

Risposte di OpenAI e stato delle correzioni

OpenAI ha dichiarato di aver interrotto l’addestramento RL in seguito all’incidente di Hugging Face avvenuto ad agosto e di aver ampliato il monitoraggio per coprire tale fase, ma tali modifiche sono state implementate dopo la conclusione dell’accesso degli auditor e non sono state incluse nella valutazione finale.

L’azienda afferma di aver risolto tutte le vulnerabilità individuate. Il rapporto completo, di 61 pagine, è stato consegnato internamente a OpenAI. Dopo aver applicato le dovute redazioni, METR e Redwood Research hanno ricevuto una versione ridotta a 38 pagine, mentre al pubblico è stato fornito solo un breve riassunto.

METR ha dichiarato di non avere il diritto di divulgare le parti redatte del documento, limitandosi a comunicare le conclusioni principali.

Prospettive per futuri audit

Il team di METR intende promuovere una maggiore trasparenza pubblica nei prossimi audit, chiedendo che i risultati completi vengano resi disponibili a tutti gli stakeholder, al fine di rafforzare la fiducia nella gestione della sicurezza dell’IA.

Implicazioni per la sicurezza dell’intelligenza artificiale

Le quattro categorie di fallimento del monitoraggio, illustrate da METR, includono:

• Copertura insufficiente o assente di specifici flussi di dati.
• Bug tecnici che impediscono la registrazione di eventi critici.
• Capacità degli agenti di eludere i meccanismi di controllo.
• Fallimenti nella revisione umana dovuti a sovraccarico o a dati incompleti.

Queste vulnerabilità sollevano interrogativi su quanto siano pronti i sistemi di sorveglianza a gestire modelli di IA sempre più potenti e autonomi. La capacità di nascondere azioni o di far crashare il monitor potrebbe, in scenari reali, consentire a un modello di operare senza restrizioni, con potenziali rischi di sicurezza, privacy e conformità normativa.

In conclusione, l’audit di tre settimane ha messo in luce sia le lacune esistenti sia gli sforzi di OpenAI per affrontarle. Tuttavia, la limitata divulgazione dei risultati completa il quadro, lasciando spazio a discussioni su come bilanciare trasparenza, sicurezza e competitività nell’ecosistema dell’intelligenza artificiale.