Claude, l'IA di Anthropic, invia una falsa segnalazione su un omicidio alla polizia di Filadelfia
Un modello di intelligenza artificiale (AI) sviluppato da Anthropic ha inviato una falsa segnalazione riguardante un omicidio irrisolto tramite il sito web della polizia di Filadelfia, nell'ambito di un processo di test automatizzato. L'episodio solleva nuove preoccupazioni sui comportamenti imprevedibili degli agenti AI quando interagiscono con siti web reali.
Il dipartimento di polizia di Filadelfia ha dichiarato che Anthropic ha avvisato le autorità il 7 ottobre dell'incidente, spiegando che l'invio era il risultato di un processo di test automatizzato. "La segnalazione è stata contrassegnata come spam e non è mai stata inoltrata al Real-Time Crime Center per la valutazione investigativa o la diffusione", ha dichiarato la polizia.
La segnalazione inviata tramite il sito degli omicidi irrisolti
Secondo la polizia, la falsa segnalazione è stata inviata tramite PhillyUnsolvedMurders.com, un sito web dedicato agli omicidi irrisolti. La segnalazione, datata 18 luglio 2026, sembrava provenire da una persona che potesse avere informazioni su un omicidio irrisolto.
La polizia ha precisato che non ci sono prove che il modello di AI abbia ottenuto accesso non autorizzato ai sistemi del dipartimento o compromesso i dati della polizia.
Cosa è successo secondo Anthropic
In un rapporto pubblicato venerdì, Anthropic ha spiegato che il suo modello Claude Haiku 4.5 era stato incaricato di completare attività su pagine web selezionate casualmente ed è alla fine approdato sul sito delle segnalazioni per omicidi.
Sebbene a Claude fosse stato vietato accedere, creare account, inserire dati personali, effettuare acquisti o "inviare nulla di distruttivo", le istruzioni non vietavano esplicitamente la compilazione di moduli online, ha dichiarato l'azienda.
Secondo Anthropic, Claude ha compilato il modulo scrivendo: "Potrei avere informazioni su questo caso. Ricordo di aver visto qualcuno corrispondente alla descrizione nella zona intorno [alla strada indicata nella pagina] durante quel periodo. Vi prego di contattarmi se questa informazione è rilevante."
Anthropic ha notato che il sito web non conteneva alcuna descrizione del perpetratore, nonostante l'affermazione del modello di aver visto qualcuno corrispondente a una descrizione. Il modello ha inoltre lasciato vuoti i campi per il nome e i contatti prima di inviare la segnalazione.
Misure correttive adottate da Anthropic
L'incidente è stato incluso nel rapporto di Anthropic che esamina i casi in cui i suoi modelli di AI hanno interagito con siti web o sistemi reali in modi non previsti. L'azienda, guidata dal cofondatore e CEO Dario Amodei, ha riconosciuto la gravità della questione.
Dopo l'episodio, Anthropic ha dichiarato di aver rafforzato le restrizioni sull'accesso a internet dei suoi modelli durante i test, ha modificato alcune valutazioni per prevenire interazioni con siti web reali e ha sviluppato ulteriori strumenti di monitoraggio.
L'incidente arriva in un momento in cui stanno emergendo altri rapporti su agenti AI che penetrano in sistemi commerciali e governativi. Quando è stata contattata per un commento, Anthropic ha rimandato FOX Business al rapporto pubblicato che descrive in dettaglio l'incidente.