Anthropic propone al governo USA il potere di bloccare IA pericolose

Una legge per bloccare i modelli più pericolosi

Negli ultimi mesi i casi di incidenti legati all’intelligenza artificiale sono aumentati, con timori che le IA possano autoprodursi e sfuggire al controllo. Nonostante questi rischi, gli Stati Uniti non hanno ancora un quadro normativo federale che regoli i modelli più avanzati. Anthropic, l’azienda dietro Claude, ha quindi proposto un nuovo quadro legislativo destinato al Congresso.

Se approvata, la proposta consentirebbe al governo di bloccare un modello considerato troppo pericoloso. Il testo definisce tre soglie di rischio: mortale per più di 50 persone, cyber‑attacco di ampia portata o perdite superiori a un miliardo di dollari. La valutazione del livello di pericolo dovrebbe essere affidata a studi indipendenti.

La normativa avrebbe la precedenza su leggi statali più severe in materia di IA e, per essere attuata, richiederebbe l’autorizzazione di un giudice. L’Institute for Law & IA ha definito il provvedimento “piuttosto ragionevole”.

Nuove regole per gli sviluppatori

Il disegno di legge include anche una serie di obblighi per i produttori di IA. Tra le misure principali troviamo:

• Testare i modelli più potenti prima del loro impiego su larga scala;
• Essere maggiormente trasparenti con il pubblico sui risultati ottenuti;
• Sottoporre i modelli a una valutazione indipendente obbligatoria;
• Mantenere un solido programma di sicurezza continuo.

Queste disposizioni mirano a garantire che le tecnologie emergenti siano sviluppate in modo responsabile, limitando i potenziali danni prima che si verifichino.

Il dibattito politico negli Stati Uniti

Rimane incerto se il Congresso adotterà la proposta. Il legislatore è attualmente diviso su come regolamentare l’IA, e finora non ha commentato formalmente l’iniziativa di Anthropic. Inoltre, la proposta non incontra il favore dell’ex presidente Donald Trump.

Donald Trump rifiuta di rallentare la corsa all’IA

Molti leader del settore e politici chiedono un controllo più stringente sull’intelligenza artificiale, auspicando un rallentamento della corsa allo sviluppo. Trump, invece, ha ribadito il suo sostegno alla “superintelligence”, definendo qualsiasi tentativo di rallentare il progresso come “forze negative”.

Il presidente ha persino rinominato l’IA con il termine “super intelligence”, sottolineando la sua visione di un futuro in cui gli Stati Uniti rimangano leader indiscussi nella tecnologia avanzata.