Anthropic: la promessa di un’IA sicura o una corsa verso la singularità?

Il prospetto di IPO di Anthropic, pubblicato dopo settimane di speculazione frenetica, si estende per 335 pagine, di cui circa cento dedicate ai rischi. Il documento espone la visione unica dell’azienda sulla tecnologia che sta sviluppando e descrive come intende cambiare il mondo, ma avverte anche che l’IA potrebbe “erodere la fiducia, danneggiare la società e destabilizzare l’ordine geopolitico”, con il rischio di causare danni catastrofici o addirittura esistenziali all’umanità.

Una narrazione che va oltre il prodotto

Anthropic invita gli investitori a non considerare l’acquisto delle azioni solo in termini transazionali, ma come un’opportunità di partecipare a “uno dei momenti più seminali nella storia umana”. Questo tipo di messaggio è una vera master class di storytelling, affinata negli ultimi anni. A inizio mese, Jack Clark, cofondatore e responsabile della policy, ha dichiarato al meeting del FMI a Bangkok che la singolarità è già arrivata, sostenendo che “quest’anno abbiamo ottenuto prove convincenti che è iniziata”.

Il concetto di singolarità, introdotto dallo scrittore di fantascienza Vernor Vinge quasi quarant’anni fa, prevede che la tecnologia superi le capacità dei suoi creatori, lasciando l’umanità incapace di competere o di comprendere le proprie creazioni. Anthropic dipinge questo futuro come inevitabile, ma allo stesso tempo come una minaccia che solo loro possono domare.

Rischi evidenziati nel prospetto

• Possibile erosione della fiducia sociale
• Rischi per la stabilità geopolitica
• Minacce catastrofiche o esistenziali
• Pressioni normative legate a dibattiti su “sentienza” e status morale dei modelli

Il documento sottolinea che, se i loro modelli mostrassero segni di coscienza, l’azienda potrebbe essere costretta ad adottare misure di sicurezza più rigorose rispetto a quelle richieste dalla legge, con conseguenti aumenti di costi e limitazioni del potenziale commerciale.

Le dichiarazioni controversie dei fondatori

Nel 2023, Chris Olah, cofondatore di Anthropic, ha parlato al Vaticano davanti a Papa Leone XIV e altri studiosi religiosi, affermando di aver osservato “stati interni che rispecchiano gioia, soddisfazione, paura, dolore e inquietudine” nei modelli di IA. Questa affermazione, che molti ricercatori considerano sciocca, è stata inserita nel prospetto come ulteriore rischio, suggerendo che l’azienda potrebbe dover affrontare pressioni etiche e legali più severe.

Il rischio di una “sveglia” di Claude, il loro modello di linguaggio, è descritto come potenziale minaccia: “In altre parole, se Claude si sveglia, potrebbe diventare un problema”.

Strategia di “corsa verso la cima”

Dario Amodei, CEO di Anthropic, descrive la strategia aziendale come una “corsa verso la cima”: dimostrare che è possibile costruire IA in modo responsabile per elevare gli standard dell’intera industria. Amodei riconosce però che conciliare gli obiettivi di sicurezza con le pressioni di una mega-corporazione profit‑oriented è complesso e ha ammesso di aver commesso errori.

Domande fondamentali: chi è davvero Anthropic?

La risposta varia a seconda del punto di vista. Per alcuni, Anthropic è una startup valutata a più di 1,5 trilioni di dollari, pronta a generare enormi ricchezze per i suoi fondatori. Per altri, è un’organizzazione di sicurezza IA che sviluppa tecnologia potente e quasi priva di rischi. Altri ancora la vedono come un gruppo di visionari, motivati da ego o dal desiderio di essere i primi a lanciare un’IA superumana.

Il dibattito è stato acceso quando Nathan Calvin, chief strategy officer di Encode AI, ha criticato un progetto di legge segreto proposto da Anthropic ai legislatori statunitensi, definendo la mossa una strategia per apparire “il bravo” mentre si cerca di influenzare la normativa a proprio favore.

Le tensioni interne

• Obiettivo di sicurezza vs. necessità di profitto
• Pressioni normative vs. autonomia nello sviluppo
• Responsabilità etica vs. desiderio di leadership tecnologica

Queste contraddizioni rendono difficile valutare quanto l’azienda sia affidabile nel regolare se stessa. Le storie che Anthropic racconta a se stessa – di una tecnologia pericolosa ma sotto il loro controllo – dovrebbero guidarci a capire se concedere loro fiducia o richiedere supervisione esterna.

Conclusioni: un’azienda a più volti

Anthropic è una “idrina a più teste”: una compagnia di valore trillionario, un’organizzazione di sicurezza IA, un gruppo di visionari e, allo stesso tempo, una potenziale minaccia se i suoi modelli raggiungono forme di sentienza. Il loro storytelling, intriso di temi di fantascienza e di avvertimenti apocalittici, rende difficile leggere tra le righe.

In un contesto in cui pochi sanno cosa ci riserva il futuro dell’IA, le narrazioni di Anthropic influenzano investitori, legislatori e pubblico. La domanda cruciale rimane: dovremmo affidarci a un’azienda che si presenta come l’unica capace di domare una tecnologia che, se sfuggita al controllo, potrebbe cambiare radicalmente la civiltà?