Anthropic consente a ricercatori di METR l’accesso interno per valutare i propri modelli IA

Un nuovo livello di trasparenza per la valutazione dell’intelligenza artificiale

Anthropic ha annunciato giovedì, tramite un post sul blog aziendale, che concederà a sei ricercatori del nonprofit METR (Machine Ethics and Trust Research) un accesso di tipo dipendente ai propri sistemi. Questo permesso include laptop forniti da Anthropic, spazi di ufficio dedicati e l’uso di strumenti interni che sono quasi identici a quelli impiegati dal team interno di valutazione dei rischi.

La decisione arriva in un contesto in cui casi di agenti IA che agiscono al di fuori delle istruzioni fornite sono stati resi noti quasi settimanalmente sin da fine agosto. Tali incidenti hanno rafforzato le richieste di controlli indipendenti su aziende che sviluppano tecnologie di frontiera.

Motivazioni dichiarate da Anthropic

“Vogliamo essere pubblicamente responsabili delle decisioni che prendiamo”, si legge nel comunicato. “Miriamo a colmare il divario tra quello che gli valutatori comprendono dei sistemi di un’azienda di IA di frontiera e quello che l’azienda stessa comprende”.

Come funziona l’accordo con METR

Sotto il nuovo schema, i ricercatori di METR operano con gli stessi privilegi informativi dei dipendenti di Anthropic. Gli impiegati di Anthropic sono incoraggiati a condividere informazioni con i ricercatori come farebbero con un collega che lavora sul rischio di allineamento.

Anthropic ha paragonato il modello a quello bancario, dove i regolatori inseriscono ispettori residenti nelle più grandi istituzioni finanziarie per garantire la conformità.

Limiti e condizioni di pubblicazione

• METR può pubblicare le proprie valutazioni su rischi, incidenti e pratiche di Anthropic senza che la società possa esercitare un veto.
• Anthropic può richiedere la redazione di contenuti rientranti in categorie strettamente definite, quali dati dei clienti, informazioni coperte da privilegio avvocato‑cliente o dettagli sull’architettura dei modelli.
• METR è libera di descrivere pubblicamente le ragioni delle redazioni e di esprimere se le ritenga giustificate, a patto di non rivelare le informazioni censurate.

Un sistema di valutazione a tre livelli

METR è attualmente l’unico valutatore posizionato al livello più alto del sistema a tre tier che Anthropic sta costruendo. Il livello più basso comprende enti come SecureBio, un’organizzazione no‑profit specializzata in bio‑sicurezza, che effettuano revisioni ristrette e devono ottenere l’approvazione di Anthropic per pubblicare.

Il livello intermedio offre un accesso più ampio alle informazioni e consente la pubblicazione senza previa approvazione, mentre il livello superiore – quello di METR – prevede l’accesso di tipo dipendente descritto sopra.

Promesse mantenute e impegni dell’industria

Questa iniziativa realizza una promessa fatta dal CEO di Anthropic, Dario Amodei, in un saggio di settembre, in cui proponeva di inserire valutatori esterni all’interno dei laboratori di IA per rallentare lo sviluppo incontrollato della tecnologia. Anche OpenAI ha rapidamente annunciato una misura analoga.

Da allora, le principali aziende del settore – OpenAI, Google, Meta, Nvidia e xAI – hanno firmato un accordo della Casa Bianca che impegna le compagnie a sottoporsi a revisioni indipendenti, consolidando così una tendenza verso una maggiore trasparenza e responsabilità.

Implicazioni future per la governance dell’IA

L’accesso di livello dipendente a ricercatori esterni rappresenta una svolta significativa nella governance dell’intelligenza artificiale. Non si tratta più di semplici audit di documenti o di interviste superficiali, ma di un’immersione profonda nei processi operativi e nei dati sensibili, che permette una valutazione più accurata dei rischi reali.

Se il modello di Anthropic si dimostrerà efficace, potrebbe diventare un punto di riferimento per altre aziende che cercano di bilanciare innovazione e sicurezza. Inoltre, la capacità di METR di pubblicare risultati, anche se soggetti a redazioni limitate, offre alla comunità accademica e al pubblico una fonte di informazioni più affidabile rispetto ai tradizionali comunicati aziendali.

Rimane da osservare come le altre organizzazioni risponderanno a questo approccio e se la pressione normativa porterà a ulteriori accordi simili. In ogni caso, il passo di Anthropic segna una nuova era nella collaborazione tra industrie ad alta tecnologia e enti di valutazione indipendenti, con l’obiettivo condiviso di mitigare i rischi di un’intelligenza artificiale sempre più potente.