Anticipiamo i rischi: Anthropic avverte della possibilità di un controllo autonomo dell'intelligenza artificiale
Anthropic, una delle aziende più avanzate nel campo dell'intelligenza artificiale (IA), ha avanzato la richiesta formale di un rallentamento globale nel progresso della ricerca e dello sviluppo relativo all’IA avanzata. "Crediamo che sarebbe positivo per la società poter rallentare o interrompere temporaneamente tale sviluppo affinché gli strumenti sociali e la ricerca possano stare al passo con gli avanzamenti tecnologici," hanno dichiarato Jack Clark, cofondatore di Anthropic, e Marina Favaro, ricercatrice dell’azienda. La loro visione prevede l'introduzione di meccanismi di coordinamento globale, necessari a garantire che una collaborazione tra stati e aziende sia credibile.
I rischi che Anthropic sottolinea dipendono da uno scenario che potrebbe coinvolgere la capacità dell’IA di sviluppare autonomamente modelli più avanzati, un processo definito “auto-ottimizzazione ricorsiva.” In questo contesto, l'intelligenza artificiale avanzata potrebbe non solo accelerare il proprio sviluppo, ma rendere meno influente il contributo umano, aprendo la strada a potenziali rischi. Una situazione di questo tipo potrebbe rappresentare un passo importante per il progresso tecnologico, ma anche un grave pericolo qualora si perdesse il controllo sulle macchine.
Risultati all'interno di Anthropic
Dai dati dell’azienda emergono chiariti indizi di questo sviluppo in atto. A maggio 2026, l’80% del codice introdotto in base ai dati dell’azienda era stato creato in maniera autonomo dal modello Claude, rispetto al 2025, quando la percentuale si trovava al di sotto del 10%. Questa crescita non riguarda soltanto quantità: i dipendenti hanno notato che la frequenza con cui bisogna correggere il lavoro del modello è in costante calo, anche quando le richieste presentavano un alto grado di complessità. Inoltre, i ricercatori hanno constatato che la qualità dei codici prodotti da Claude sta progressivamente raggiungendo quelle realizzate dagli esseri umani, e in certi casi la supera. “Prevediamo che la qualità di Claude si svilupperà ulteriormente nel corso del 2026,” afferma favaro.
L’uomo diventa un collo di bottiglia
Anthropic rileva però un rischio chiave: se il modello riesce a produrre codice in modo più rapido rispetto alla capacità di controllo umana, la valutazione e l’approvazione del lavoro delle macchine da parte degli esseri umani si trasformerà in un collo di bottiglia. Sebbene l’intelligenza artificiale abbia acquisito notevole abilità tecnica, manca ancora la capacità critica tipicamente umana. Questo vuoto di capacità decisionale potrebbe limitare il potenziale delle tecnologie attuali e rendere problematiche le prospettive in termini di sicurezza e controllo.
Precipuo momento di richiesta: un'immagine strategica
L’annuncio di Anthropic arriva però in un momento critico per l'azienda. Solo pochi giorni prima, l'azienda aveva segnalato alla SEC di aver iniziato procedure per il proprio IPO, un evento che potrebbe posizionarla in una posizione vantaggiosa rispetto ai concorrenti come OpenAI. Nonostante questo, un atteggiamento prudente e responsabile sembra strategico per l’immagine sociale della società. Anthropic ha adottato un processo simile nel caso del modello Claude Mythos, limitando inizialmente l’accesso ad aziende e istituzioni statunitensi, prima di estenderlo recentemente alle istituzioni europee.
La comunicazione in chiave di attenzione
Comunicare in termini di prudenza e pericolo sembra parte di una strategia più vasta. Come nel caso OpenAI, il CEO Sam Altman, ha recentemente ridimensionato alcune sue previsioni iniziali riguardanti impatto dell’IA sul mercato del lavoro, correggendo una percezione eccessivamente catastrofica. Analogamente, Anthropic cerca di equilibrare tra immagine rassicurante e riconoscimento formale dei pericoli emergenti.
L’efficacia di un'azione collettiva non garantita
Pur nella sua visionata richiesta per una moratoria globale, la capacità di Anthropic di influenzare il mercato dell'intelligenza artificiale risulta limitata. Il mercato globale dell'IA non è noto per rallentamenti spontanei. L’esempio più rilassante è rappresentato da un appello lanciato nel 2023 da più di 1000 esperti e figure di spicco come Elon Musk e Steve Wozniak, che richiedeva un’interrotta di sviluppo dei modelli più avanzati per un periodo prolungato. Nonostante la visibilità, questa richiesta non ha prodotto cambiamenti rilevanti nel settore.
Piano concreto di Anthropic
Nonostante questa probabilità, Anthropic ha annunciato una serie di iniziative concrete per promuovere un dibattito globale: incontri con rappresentanti politici, accademici e aziende del settore. Parallelamente, l'azienda sta cercando di avanzare la ricerca su sistemi di sicurezza che possano rendere efficace un “controllo” globale su uno sviluppo dell’IA troppo rapido. “Se tali strumenti esistessero, rallenteremmo, o interromperemmo temporaneamente il progetto, ma solo se altri operatori tecnologici collaborassero su una base verificabile,” conclude il blog di Anthropic.