Fermare l’AI prima che costruisca se stessa: Il monito di Anthropic per scuotere l’industria tech
"Fermare l’AI prima che costruisca se stessa": Questo è il monito lanciato da Anthropic per scuotere l’intera industria tecnologica. L'azienda ha sottolineato come i rischi dell’AI siano ormai aumentati esponenzialmente e, in particolare, ha sollevato l’allarme riguardo al cosiddetto recursive self-improvement, ovvero lo scenario in cui un sistema di intelligenza artificiale inizi a progettare autonomamente una propria versione successiva senza intervento umano. Questo scenario, pur non essendo scontato né immediatamente tangibile, potrebbe verificarsi molto più rapidamente di quanto le principali istituzioni siano pronte ad affrontare.
Un futuro in cui l'AI progetta l'AI
Anthropic ha pubblicato recentemente un rapporto e un post intitolati “When AI Builds Itself”, in cui si evidenzia come i sistemi di AI stiano già svolgendo un ruolo crescente nello sviluppo di nuovi modelli, accelerando un progresso potenzialmente pericoloso. Secondo il report, i dati interni dell’azienda mostrano un aumento esponenziale del coinvolgimento autonomo dell’AI in attività precedentemente gestite da ingegneri umani.
Nel mese di aprile 2026, ad esempio, il sistema Claude ha autonomamente consegnato oltre 800 correzioni tecnico-API, riducendo di migliaia di volte una specifica classe di errori. A maggio del 2026, più dell’80% del codice integrato nel codebase di Anthropic era stato generato direttamente da Claude, rispetto a percentuali inferiori all'10% registrate nel 2024, prima del lancio della versione dedicata al codice nel febbraio 2025. Oggi, un ingegnere integra in media l’8 volte più codice rispetto a soli dodici mesi fa.
La proposta di Anthropic: un accordo globale
Per contrastare l’evoluzione potenzialmente non controllabile dell’AI, Anthropic chiede ai ricercatori e ai laboratori di settore di adottare una pausa globale temporanea nel momento in cui i rischi tecnologici superassero i benefici. Questa pausa non sarebbe una sospensione totale, né un blocco unilaterale, ma un accordo condiviso tra “più laboratori ben finanziati in diversi paesi”.
La sfida principale, tuttavia, è assicurarsi che l’accordo resti vincolante e facilmente verificabile, per evitare che una o più entità avanzino nascostamente. Secondo Jack Clark, responsabile delle politiche di Anthropic, raggiungere uno stato in cui il 100% del codice sia scritto autonomamente dall’AI potrebbe essere plausibilmente realizzabile entro i prossimi due anni. Un livello di autonomia che renderebbe estremamente difficile frenare il sistema una volta avviato. Clark ha dichiarato in un'intervista alla BBC Newsnight che il settore potrebbe “vogliamo avere l’opzione di togliere il piede dall’acceleratore e mettere il piede sul freno”.
Contesto strategico e finanziario
Nonostante l’appello sembri motivato da considerazioni etiche e di sicurezza, la decisione di Anthropic di lanciare questo messaggio è avvenuta in un momento estremamente strategico. L’azienda ha appena concluso un round di finanziamento che la valuta quasi mille miliardi di dollari, una cifra che evidenzia la sua crescente influenza nel settore. Inoltre, Anthropic ha depositato in via riservata la documentazione per una quotazione in borsa negli Stati Uniti.
Sebbene qualcuno possa interpretare questa mossa come una strategia comunicativa per attrarre l’attenzione di investitori, policymaker e utenti, i dati riportati nel rapporto difficilmente possono essere ignorati. Il progresso dell’AI sembra in un’accelerazione tale da richiedere interventi urgenti per gestire i rischi.
Un passo verso il coordinamento globale
Negli mesi a venire, Anthropic prevede di istituire tavoli tecnici con governi, società civile, esperti di etica e altre aziende di AI per discutere di come gestire i rischi del recursive self-improvement e promuovere iniziative concrete di coordinamento internazionale. L’obiettivo non è soltanto anticipare i futuri sviluppi tecnologici, ma costruire un sistema globale di regolamentazione e collaborazione, necessario per affrontare le sfide complesse dell’intelligenza artificiale avanzata.