Mettere in pausa l’AI: che c’è dietro l’appello Anthropic

Un’appello inaspettato dal cuore dell’innovazione sull’AI

Non è la prima volta che un appello per rallentare lo sviluppo dell’intelligenza artificiale viene avanzato, ma sì sorprende che provenga da Anthropic. La società, nota per la realizzazione di Claude, ha chiesto ai principali laboratori di tecnologia AI di organizzare un meccanismo coordinato e verificabile per sospendere l’avanzamento dei modelli più avanzati.

La motivazione ufficiale è legata al rischio di auto-miglioramento ricorsivo: sistemi capaci di raffinare sé stessi con intervento umano sempre più marginale. Questo tema fa parte degli anni di dibattito sull’autosviluppo dell’intelligenza artificiale, spesso richiamando l’allarme di filosofi come Nick Bostrom.

Allarme AI: ma è davvero imminente?

Il cuore della richiesta emerge in un contesto di crescente competizione globale per lo sviluppo di sistemi AI più avanzati. Tra i soggetti protagonisti ci sono OpenAI, Google, Meta e xAI, aziende che si preparano a grandi IPO dietro una tecnologia in rapida evoluzione.

I ricercatori si dividono: alcuni sostengono che l’apparizione dell’intelligenza artificiale generale (AGI) si avvicini, mentre altri la considerano una prospettiva esagerata. Questo divario ha portato ad appelli per governance pubblica e internazionale più rigorose.

I dati presentati da Anthropic

Nel documento intitolato “When AI builds itself”, firmato da Marina Favaro e Jack Clark, Anthropic indica chiaramente una trasformazione nel processo di sviluppo AI.

• I coders della società ora producono circa otto volte più codice al trimestre rispetto al periodo 2021-2025.
• Entro maggio 2026, più dell’80% del codice prodotto da Anthropic era attribuibile alle attività di Claude.
• Prima del lancio in preview della capacità di coding, nel febbraio 2025, questa quota era inferiore al 10%.

Non solo programmazione. Le capacità di autonomia dei modelli Anthropic crescono: stima la durata delle attività che un modello può completare senza supervisione passa da un raddoppio ogni sette mesi a ogni quattro mesi.

Da Claude Opus 3 a Claude Opus 4.6

Ecco i dati presentati da Anthropic sugli sviluppi:

• Claude Opus 3 (marzo 2024): capacità di compiti software equivalenti a circa quattro minuti di lavoro umano.
• Claude Sonnet 3.7 (un anno dopo): fino a un’ora e mezza.
• Claude Opus 4.6 (2026): fino a dodici ore.

Questo indica una significativa accelerazione nell’indipendenza operativa dei modelli AI. L’azienda precisa però che il giudizio e la scelta dei problemi da affrontare rimangono in mano umana.

Da assistente a co-creatore

I modelli non si limitano a suggerire codice, ma si occupano ormai di debugging, test, sperimentazione e ottimizzazione. Ciò modifica il modello stessa della ricerca, rendendo il ruolo dell’AI sempre più centrale.

Questa potenziale accelerazione preoccupa. Se i modelli iniziano a essere parte attiva nella progettazione dei loro successori, si potrebbe formare un circuito autorinforzante, un’accelerazione di tipo esponenziale che sfugge a qualsiasi controllo esterno.

Il limite aperto: la capacità di ricerca

Anthropic riconosce che un aspetto cruciale rimane il cosiddetto “research taste”: la capacità di scegliere i problemi da affrontare e di valutare i risultati. Nonostante siano miglioramenti visibili, Anthropic rileva che l’AI non è ancora in grado di stabilire autonomamente la strada da percorrere.

Questo spiega come l’accelerazione non si limiti alla semplice velocità esecutiva ma abbraccia la capacità decisionale. Il passo successivo potrebbe essere la riduzione della necessità umana nel contesto della ricerca e dello sviluppo.

Dibattito scientifico e governance

La questione non è puramente tecnica, ma politica. L’amministrazione Trump ha recentemente firmato un decreto esecutivo che favorisce l’autoregolamentazione, dando spazio alle aziende private a gestire la sicurezza e le pratiche di sviluppo.

Per Anthropic, e per altri ricercatori, questa tendenza rende ancora più urgente la ricerca di strumenti di controllo concertati tra le aziende. Una sospensione volontaria coordinata risulta essere l’unico meccanismo possibile, poiché un singolo laboratorio che si blocca potrebbe facilmente perdere terreno rispetto ai concorrenti meno attenti alla sicurezza.

Due visioni dell’AGI

I dibattiti accademici sull’imminenza dell’AGI sono divisi: da un lato ci sono ricercatori che ritengono l’emergere di questi sistemi sempre più probabile.

Dall’altro, personalità come Yann LeCun, premio Turing, sottolineano che i modelli attuali non sono strutturalmente adatti a raggiungere un’intelligenza generale. Criticano il mancanza di comprensione fisica, memoria, pianificazione e ragionamento causale avanzata.

Il rapporto “AAAI 2025 Presidential Panel on the Future of AI Research”, ad esempio, rappresenta la visione cauta di una comunità che vede nella scalabilità dei modelli un percorso non sufficiente da raggiungere l'AGI.

Tra cautele e sfide globali

L’appello di Anthropic va però visto come una spinta a creare una governance pubblica e globale sull’AI, capace di affrontare la complessità di una catena di sviluppo che si va sempre più automatizzando.

Chiunque possa contribuire a tale dibattito, oggi, è consapevole che il tema non riguarda solo tecnologia ma il futuro dell’umanità. Se i grandi modelli diventano protagonisti del loro sviluppo, la distinzione tra attività umana e automatica si fa sempre più sottile, rendendo necessaria una riflessione non più procrastinabile.