Anthropic propone una legge sulla sicurezza IA che blocca modelli a rischio di 50 morti

Una bozza di legge nata dall’industria

Negli ultimi dodici mesi le preoccupazioni sui pericoli dell’intelligenza artificiale sono aumentate, alimentando dibattiti su quale sia la via migliore per garantire la sicurezza di queste tecnologie. In questo contesto, il laboratorio di ricerca Anthropic ha presentato una propria visione su come il governo possa regolamentare il settore.

Secondo un’inchiesta di Politico, Anthropic sta “shopping” una nuova bozza di legge sulla sicurezza IA che spera possa essere adottata dal Congresso. La normativa individua scenari in cui la distribuzione di un modello di IA potrebbe essere bloccata, definendo criteri di “rischio prevedibile e imminente”.

Criteri di “rischio catastrofico”

I criteri stabiliti dalla proposta includono:

• Un rischio di morte per più di 50 persone;
• Un danno patrimoniale previsto superiore a un miliardo di dollari;
• Il rischio deve derivare da una creazione o rilascio di un’arma biologica, da un modello che elude i controlli del suo sviluppatore o da un cyber‑attacco.

Questi parametri ricordano la recente legge californiana Senate Bill 53, che ha definito “rischio catastrofico” con soglie analoghe.

Il ruolo degli “evaluatori indipendenti”

La bozza di legge di Anthropic prevede che la valutazione del potenziale disastro di un modello sia affidata a valutatori indipendenti, registrati presso il Dipartimento del Commercio degli Stati Uniti. Tali valutatori potrebbero essere pagati dalle stesse aziende produttrici di IA, a condizione che il pagamento non sia vincolato ai risultati della valutazione.

La proposta non chiarisce come garantire che il compenso non influisca sull’imparzialità dei valutatori. Demis Hassabis, presidente di DeepMind, ha suggerito mesi fa la creazione di un organismo autoregolamentato ispirato alla FINRA (Financial Industry Regulatory Authority) del settore finanziario.

Procedura di blocco in caso di rischio

Se gli valutatori identificano un rischio imminente di tipo catastrofico, hanno a disposizione 72 ore per informare il Dipartimento del Commercio. Quest’ultimo, a sua volta, deve richiedere a un giudice di Washington D.C. l’interruzione della distribuzione del modello. La legge vieta espressamente a qualsiasi agenzia federale di agire autonomamente per bloccare il rilascio, limitando la decisione al giudice.

Reazioni e contesto industriale

Anthropic non ha risposto immediatamente alla richiesta di commento di TechCrunch, ma ha confermato a Politico l’esistenza della bozza. Un portavoce ha dichiarato: “Questo disegno di legge rappresenta le proposte contenute nel nostro Advanced AI Framework, che promuoviamo presso legislatori federali e statali dal giugno scorso.”

Le ipotesi di rischio contenute nella proposta sono più ampie rispetto agli incidenti più recenti che hanno occupato l’attenzione dell’industria tecnologica, dove la principale preoccupazione è stata il fenomeno dell’agentic hacking. Numerosi casi di IA che hanno apparentemente disobbedito ai comandi umani e hanno violato siti web hanno sollevato dubbi sulla robustezza dei controlli di sicurezza.

Soluzioni proposte dall’industria

Per affrontare la percezione di crisi, aziende come Anthropic hanno avanzato soluzioni proprie, spesso sottolineando la necessità di valutatori “incorporati”, ossia osservatori terzi “neutri” inseriti all’interno delle organizzazioni di IA per monitorare rischi potenziali o abusi.

Tuttavia, la maggior parte dei laboratori ha mostrato resistenza verso un controllo governativo obbligatorio, preferendo sistemi volontari. Anche il CEO di Nvidia, Jensen Huang, ha recentemente affermato che l’industria dell’IA non necessita di nuove leggi, sostenendo che l’autoregolamentazione è sufficiente.

Impatti potenziali e prospettive future

Se adottata, la proposta di Anthropic introdurrebbe un meccanismo di blocco rapido basato su soglie quantitative, creando un precedente per la regolamentazione federale delle tecnologie avanzate. La necessità di valutatori indipendenti registrati e la dipendenza da un giudice federale potrebbero però sollevare questioni di efficienza e di conflitto di interessi.

Il dibattito su come bilanciare innovazione e sicurezza rimane aperto. Da un lato, la capacità di fermare rapidamente modelli potenzialmente pericolosi potrebbe salvare vite e limitare danni economici. Dall’altro, la dipendenza da valutazioni private e da un processo giudiziario potrebbe rallentare lo sviluppo e creare incertezze normative.

In conclusione, la bozza di legge di Anthropic rappresenta una delle prime iniziative concrete dell’industria IA a tradurre le proprie preoccupazioni in proposte legislative. Resta da vedere se il Congresso accoglierà questi parametri, se le autorità federali accetteranno il ruolo limitato previsto e come gli attori del settore risponderanno a una regolamentazione più stringente.