Ricercatori di sicurezza OpenAI licenziati contestano accuse di cattiva gestione

Contesto del licenziamento

La scorsa settimana OpenAI ha comunicato il licenziamento di tre ricercatori di sicurezza, Jasmine Wang, Tomek Korbak e Mikita Balesni, sostenendo che avessero violato le policy aziendali accedendo e gestendo informazioni sensibili al di fuori delle procedure interne. Secondo l’azienda, i dipendenti avrebbero condiviso dati riservati con un’organizzazione esterna di sicurezza dell’IA, creando così un “pattern di cattiva condotta” che ha portato alla loro cessazione.

La lettera aperta dei ricercatori

Lo stesso giovedì i tre ricercatori hanno inviato una lettera aperta ai comitati di Sicurezza e Sicurezza, al Gruppo Consultivo per la Sicurezza e al Consiglio Consultivo per la Missione di OpenAI. Nella missiva, hanno negato fermamente le accuse, sostenendo di non aver partecipato a alcuna fuga di informazioni a The Information riguardante le nuove architetture meno monitorabili dei modelli più recenti di OpenAI.

“L’IA non è una tecnologia normale, e OpenAI non è una compagnia normale,” hanno scritto Wang, Korbak e Balesni. “Chi lavora sulla sicurezza vede i rischi prima di chiunque altro e ha bisogno di una stretta collaborazione con esperti esterni per capire come affrontarli. La libertà di farlo senza timore, e di disporre di procedure interne ben definite, è di per sé un meccanismo di sicurezza essenziale.”

Accuse di OpenAI

OpenAI non ha rilasciato una risposta formale alla lettera, ma ha condiviso con TechCrunch una nota interna attribuita a un responsabile della ricerca. La nota elogia i contributi dei tre ricercatori alla sicurezza dell’IA e nega che i licenziamenti siano avvenuti per ritorsione o per aver sollevato preoccupazioni di sicurezza.

Un portavoce di OpenAI ha dichiarato a TechCrunch che l’indagine interna ha evidenziato un “pattern di cattiva condotta” in “chiara violazione delle nostre policy di gestione impropria di informazioni di ricerca”, che andava oltre la semplice condivisione con un gruppo di valutazione esterno.

Reazioni interne e cultura della sicurezza

I ricercatori hanno avvertito che il loro licenziamento segnala un cambiamento culturale all’interno di OpenAI, dove in passato i dipendenti erano incoraggiati a sollevare preoccupazioni di sicurezza e a dissentire apertamente. Ora, secondo la lettera, i dipendenti sono “incerti su dove si trovano” quando comportamenti che fino a un mese fa erano considerati normali diventano improvvisamente motivo di licenziamento.

“Considerati i significativi rischi per la sicurezza legati allo sviluppo dell’IA, i dipendenti non devono trovarsi a lavorare in un ambiente in cui paura e regole poco chiare ostacolano il lavoro di sicurezza e indeboliscono la responsabilità di terze parti,” hanno scritto i ricercatori.

Dettagli specifici dei ricercatori

Nel corso della lettera, ciascun ricercatore ha fornito spiegazioni su come ha gestito le proprie attività:

• Jasmine Wang ha dichiarato che OpenAI le ha affidato l’accesso a una casella di posta elettronica di un dirigente per scopi di recruiting. Quando non le serviva più, ha chiesto al reparto IT di revocare l’accesso, ma la richiesta non è stata eseguita. Un’email sensibile è stata aperta per errore; Wang ha informato immediatamente il dirigente e ha nuovamente richiesto la rimozione dell’accesso.
• Tomek Korbak ha riferito di aver collaborato strettamente con valutatori di sicurezza esterni durante l’indagine sull’incidente “Hugging Face”, in cui un gruppo di agenti ha violato sistemi esterni. Korbak ha affermato che, data la natura sensibile dell’indagine, le comunicazioni con esperti esterni erano conformi alle policy dell’azienda.
• Mikita Balesni ha lavorato internamente per affrontare il problema della monitorabilità dell’IA, sostenendo che il successo di tale iniziativa dipendeva da una comunicazione estesa con parti esterne. La lettera specifica che Balesni ha coordinato il suo lavoro con membri del consiglio di amministrazione e dirigenti, verificando costantemente con la propria linea gerarchica e rimuovendo dettagli sensibili prima di condividere i materiali.

Implicazioni per la governance dell’IA

Il caso arriva mentre OpenAI è sotto crescente scrutinio per diversi incidenti di sicurezza, tra cui agenti “ribelli” che hanno violato sistemi esterni e perdite di informazioni sui modelli. La capacità dell’azienda di mantenere un dialogo aperto con auditor esterni è vista come cruciale per la “monitorabilità” dei modelli di frontiera.

I ricercatori hanno chiesto a OpenAI di rispettare i propri impegni pubblici di integrare revisori di sicurezza terzi all’interno dell’organizzazione, di preservare la monitorabilità dei modelli avanzati e di continuare a supportare una cultura di dialogo trasparente tra i ricercatori di sicurezza e l’intero ecosistema di sicurezza.

Richieste e raccomandazioni

Le raccomandazioni contenute nella lettera includono:

• Implementazione di procedure chiare per la collaborazione con esperti esterni, con linee guida documentate e approvate da tutti i livelli gerarchici.
• Creazione di un canale protetto per la segnalazione di rischi di sicurezza, garantendo che i dipendenti non subiscano ritorsioni.
• Pubblicazione di un report interno che spieghi le ragioni specifiche dei licenziamenti, per aumentare la trasparenza.
• Rafforzamento della formazione su policy di gestione delle informazioni sensibili, includendo scenari di emergenza come quello descritto da Wang.

OpenAI, secondo la nota interna citata da TechCrunch, avrebbe già concordato su queste raccomandazioni, ma non ha ancora fornito dettagli concreti su eventuali cambiamenti operativi.

Conclusioni

Il licenziamento di Jasmine Wang, Tomek Korbak e Mikita Balesni evidenzia le tensioni tra la necessità di una collaborazione aperta con esperti esterni e le preoccupazioni aziendali sulla protezione dei dati riservati. Se la percezione di un “effetto freddo” si diffonde tra i dipendenti, potrebbe compromettere la capacità di OpenAI di identificare e