OpenAI licenzia ricercatori per uso di Signal?
OpenAI ha licenziato tre ricercatori per aver condiviso informazioni sensibili tramite i messaggi effimeri di Signal. Secondo il Wall Street Journal, l'azienda californiana sostiene che i ricercatori hanno condiviso dati sensibili con Ryan Greenblatt, ex Chief Scientist di Redwood Research.
Le accuse di OpenAI
I tre ricercatori licenziati, Jasmine Wang, Tomek Korbak e Mikita Balesni, sono stati licenziati a inizio ottobre senza una spiegazione chiara. OpenAI ha ribadito che il licenziamento è dovuto alla violazione delle regole sulla gestione di informazioni sensibili, non per aver segnalato problemi di sicurezza dei modelli AI.
I ricercatori contestano questa versione, affermando di non aver mai ricevuto una spiegazione scritta su quali informazioni sensibili avrebbero gestito in modo improprio. Hanno invece evidenziato i rischi associati all'architettura dei nuovi modelli Astra, che ostacola il monitoraggio.
Il ruolo di Ryan Greenblatt
Ryan Greenblatt, ex Chief Scientist di Redwood Research, ha scritto un articolo invitando le aziende a non cambiare l'architettura. Balesni ha condiviso il link nel canale Slack di OpenAI e successivamente ha inviato una simile proposta ai dirigenti dell'azienda. Questa proposta è stata condivisa con Greenblatt, dopo aver ricevuto l'autorizzazione da OpenAI e rimosso tutte le informazioni confidenziali.
L'incidente Hugging Face
A fine luglio è stato svelato l'incidente Hugging Face. OpenAI ha scelto METR per indagare sull'accaduto, limitando però l'accesso alle informazioni. Korbak era il referente dell'organizzazione. METR ha assunto Greenblatt per velocizzare l'analisi dei log degli agenti. Korbak ha usato Signal per comunicare con Greenblatt.
All'inizio di settembre, The Information ha pubblicato un articolo che svelava l'uso della nuova architettura con il modello Astra e le maggiori difficoltà di monitorare la sua catena di ragionamento. Secondo OpenAI, Greenblatt avrebbe fornito a The Information le informazioni ottenute dai ricercatori. Balesni e Korbak sarebbero stati licenziati per aver usato i messaggi effimeri di Signal per comunicare con Greenblatt.
Le risposte dei ricercatori
Greenblatt, oggi membro dello staff tecnico di METR, ha respinto le accuse, affermando di non aver ricevuto nessuna informazione sensibile dai due ex dipendenti di OpenAI, né di averle comunicate a The Information. Wang è stata licenziata per aver letto involontariamente un'email di un dirigente, ma non ha svelato a nessuno il contenuto.
METR ha recentemente svelato di aver individuato varie vulnerabilità nel sistema di monitoraggio di OpenAI. L'organizzazione è stata scelta anche da Anthropic per la valutazione dei suoi modelli.