Anche la cina ha avuto accesso a mythos di anthropic

L'intelligenza artificiale Mythos di Anthropic, il modello ritenuto troppo pericoloso per essere rilasciato al pubblico e che ha scoperto migliaia di vulnerabilità in Firefox, potrebbe essere stato accessibile a un gruppo legato alla Cina. Lo riporta un recente rapporto pubblicato da Semafor, secondo cui la decisione del governo degli Stati Uniti di vietare l’esportazione di Mythos è stata in parte motivata dal timore che il modello potesse essere stato compromesso.

La Cina ha distillato Mythos?

Se il governo cinese avesse veramente avuto accesso a Mythos o al modello Fable 5, le conseguenze potrebbero essere molto gravi per la sicurezza nazionale. Il governo cinese potrebbe tentare di replicare Mythos tramite un processo chiamato distillazione — un metodo in cui un modello più semplice viene addestrato utilizzando gli output di un modello più avanzato per imitarne il comportamento. Secondo Anthropic, DeepSeek avrebbe già attuato un simile approccio su larga scala, per il quale l’azienda ha inserito specifiche salvaguardie in Fable 5, inizialmente nascoste, successivamente rese visibili.

Le smentite di Anthropic e della Casa Bianca

La Casa Bianca non ha confermato ufficialmente l’ipotesi avanzata da Semafor. Un post su X del consigliere di Donald Trump, David Sacks, ha parlato della possibilità di jailbreak su Fable e Mythos, mentre Anthropic ha rifiutato di confermare tali affermazioni. L’azienda non ha risposto ai commenti richiesti da Semafor, e un portavoce ha affermato che durante le discussioni con il governo Usa sui limiti all’esportazione, non è stata mai menzionata la Cina.

Una questione non ancora risolta

Non vi sono al momento conferme definitive, né smentite complete. Il rapporto di Semafor rimane insomma non verificabile del tutto ma anche non smentibile. Se il governo cinese dovesse aver accesso a Mythos, non sarebbe però la prima volta che un modello così avanzato subirebbe una violazione. In precedenza, un gruppo su Discord aveva avuto accesso a Mythos per oltre due settimane, finché Anthropic non aveva bloccato l’accesso dopo averne scoperto l’utilizzo imprevisto.

Premi sulla sicurezza di Anthropic messi a dura prova

Anthropic ha costruito il proprio marchio su concetti di sicurezza, protezioni e controlli. L’azienda ha implementato il cosiddetto Project Glasswing per fornire accesso limitatissimo a clienti specifici e ha sospeso diverse attività per mesi prima del rilascio. Ha anche introdotto salvaguardie anti-distillazione su Fable 5. Oltre a questo, ha richiesto che i dati vengano conservati per 30 giorni per far fronte ad attacchi complessi.

Tuttavia, se uno dei modelli più avanzati, reputato pericoloso e rischioso per l’accesso pubblico, è finito nelle mani di un gruppo su Discord — e potrebbe esserlo stato in quelle di un governo straniero — sorge la legittima domanda su quanto siano davvero efficaci le misure di protezione messe in atto da Anthropic.

Implicazioni e prospettive future

• L’intera vicenda solleva domande significative sulla capacità di proteggere i modelli di AI di ultima generazione.
• Dimostra che le strutture più sofisticate potrebbero non essere totalmente immuni da accessi non autorizzati.
• Spinge alla riflessione su come bilanciare l’innovazione tecnologica con la sicurezza nazionale e le implicazioni globali.
• Porta l’attenzione sul ruolo cruciale giocato dal governo nello stabilire criteri chiari e verificabili.

Con il crescente utilizzo di modelli di intelligenza artificiale avanzata, il tema della sicurezza diventa sempre più delicato. E se, come si sta ipotizzando, la Cina abbia accesso ad un modello come Mythos, questo potrebbe rappresentare un momento significativo nella guerra tecnologica tra Usa e Cina nel settore dell’AI.

Fonte:

Semafor