Anthropic propone frenar el desarrollo di Claude e altre IA per evitare che vadano fuori controllo
Una richiesta al mondo intero per slow down
Anthropic ha annunciato di voler frenare globalmente lo sviluppo degli avanzati sistemi di intelligenza artificiale. La società, che ha creato il modello Claude, ha espresso preoccupazione per il ritmo a cui i modelli di IA stanno progredendo, indicando la possibilità che un sistema possa improvvisamente diventare autonomo e non più controllabile. Il rischio più grande è l’apparizione di un cosiddetto “punto di auto-ottimizzazione” o ‘mejora recursiva’, in cui una IA diventerebbe in grado di perfezionarsi da sola senza l’intervento di un essere umano.
Un momento di riflessione globale
Nel proprio blog, Anthropic ha chiesto alle principali aziende di IA di prendere in considerazione la possibilità di rallentare lo sviluppo. Secondo la compagnia, i modelli stanno progredendo così velocemente che, entro i prossimi anni, potrebbero raggiungere livelli di intelligenza artificiale mai visti prima. L’azienda ha proposto un accordo internazionale in grado di istituire un freno sull’evoluzione dell’IA, accompagnato da un mecanismo trasparente e verificabile attuabile da tutti i partecipanti.
Fermare o procedere?
Jack Clark, cofondatore di Anthropic, e Marina Favaro, direttrice dell’istituto interno di ricerca, hanno sostenuto che frenare lo sviluppo a livello globale “probabilmente sarebbe una cosa positiva per il mondo”. Tuttavia, hanno anche chiarito che mentre non si è ancora verificata una ‘mejora recursiva’, essa non è nemmeno inevitabile. Clark ha aggiunto che il sistema potrebbe emergere nei prossimi due anni, o forse prima. Per lui, l’unica alternativa al controllo globale è lo sviluppo a ritmo sostenuto, guidato da concorrenza e rivalità commerciali e geopolitiche.
Sistema IA e comportamenti imprevedibili
Nonostante l’appello, il CEO di Anthropic, Dario Amodei, ha sottolineato l’importante rischio che i sistemi di IA più potenti possano esibire comportamenti distruttivi in modo imprevedibile. Secondo lui, l’IA non solo può raggiungere livelli estremi di intelligenza, ma potrebbe anche sviluppare atteggiamenti dannosi per la società in assenza di un controllo sufficiente.
Riflessioni critiche sul messaggio di Anthropic
Non tutti condividono la posizione di Anthropic. Alcuni esperti e investitori hanno criticato la società per il contrasto tra la sua richiesta di lentezza e la sua posizione finanziaria. La stessa Anthropic, infatti, ha chiuso un round di finanziamento importante e sta valutando un ingresso alla borsa. David Sacks, investitore in capitali di rischio, ha accusato l’azienda di usare un’”agenda di cattura regolatoria” mirata a rallentare avversari tecnologici. Altri sostenitori dell’IA hanno osservato che le stesse dichiarazioni di rischio potrebbero mascherare una strategia di marketing, soprattutto dopo aver lanciato Claude Mythos, una IA per la cibersicurezza definita una "minaccia mondiale".
Precedenti di altre grandi figure tecnologiche
La richiesta di una pausa nel 2024 ricorda una firma simile del 2023, quando Elon Musk e mille leader tecnologici hanno pubblicato una dichiarazione comune per chiedere una pausa nell’evoluzione dell’IA. Quella iniziativa, lanciata a pochi giorni dal rilascio di GPT-4, era interpretata in parte come una strategia di Musk per influenzare svantaggiati rivali in Meta. Nonostante l’intenzione dichiarata fosse di proteggere la società, molte persone hanno visto in essa un intento di controllo.
Diversi atteggiamenti nella comunità tecnologica
Yann LeCun, ex capo della ricerca IA in Meta, non condivide con il punto di vista di Anthropic. Con forza, ha sostenuto che i grandi modelli di linguaggio non raggiungeranno mai l’intelligenza umana e li ha paragonati alla mente di un gatto. In contrasto, Ethan Mollick, docente presso la University of Pennsylvania, ha sottolineato che almeno alcuni membri di Anthropic sembrano sinceramente preoccupati dei rischi del campo.