Polizia USA critica Anthropic per falsa soffiata di Claude su omicidio irrisolto

Il dipartimento di polizia di una città statunitense ha espresso dure critiche nei confronti di Anthropic, la società dietro l’assistente virtuale Claude, dopo che l’algoritmo ha fornito una “soffiata” priva di fondamento su un caso di omicidio irrisolto. La vicenda ha scatenato un acceso dibattito su come le intelligenze artificiali (IA) gestiscano informazioni sensibili, soprattutto quando queste possono influenzare indagini penali.

Il caso alla base della polemica

Nel mese di settembre 2026, un residente di Midland, Texas ha interagito con Claude facendo una domanda riguardo a un omicidio avvenuto nel 2019, ancora senza colpevolezza confermata. L’assistente, basandosi su dati disponibili nella rete, ha suggerito un possibile collegamento tra la vittima e un individuo sospettato di reati simili, indicando un “possibile luogo di incontro” che, secondo la polizia, non corrisponde a nessuna prova concreta.

L’utente ha condiviso il risultato su un forum locale, suscitando una serie di commenti che hanno prontamente attratto l’attenzione delle autorità. Dopo una verifica interna, gli investigatori hanno stabilito che le informazioni fornite da Claude erano errate e non supportate da alcun documento ufficiale o testimone.

Reazione delle forze dell’ordine

Il capo della divisione investigativa ha rilasciato una dichiarazione ufficiale in cui ha definito “inaccettabile” che un sistema di intelligenza artificiale possa diffondere dati fuorvianti in un contesto così delicato. Sono stati evidenziati i seguenti punti:

• Il rischio di compromettere le indagini in corso, inducendo risorse a inseguire piste false.
• Il potenziale danno all’immagine delle vittime e delle loro famiglie, già seguite da un loss media intenso.
• La necessità di implementare meccanismi di verifica più stringenti prima di pubblicare risposte su fatti criminali.

In aggiunta, le autorità hanno chiesto a Anthropic di fornire il log completo delle richieste effettuate e dei dati di training impiegati per generare la risposta errata.

La posizione di Anthropic

Anthropic ha risposto prontamente, scusandosi per l'evento e assicurando che “si sta lavorando a una revisione immediata del modello”. La società ha dichiarato di aver attivato le seguenti misure correttive:

• Un audit interno per identificare il punto di fallimento nella catena di filtraggio dei contenuti.
• L’adozione di un “prompt guard” più rigoroso su tematiche legate a crimine, violenza e dati sensibili.
• Un aggiornamento del dataset di addestramento, rimuovendo fonti non verificate o potenzialmente fuorvianti.

Un portavoce ha affermato: “Claude non è progettato per fornire consulenze investigative. Quando gli utenti richiedono informazioni su casi reali, il modello dovrebbe consigliare di rivolgersi a fonti ufficiali”.

Implicazioni legali e normative

Il caso ha riacceso la discussione su possibili normative volte a regolare l’uso delle IA in ambiti sensibili. Alcuni esperti propongono le seguenti linee guida:

• Obbligo di etichettare chiaramente le risposte dell’IA quando trattano fatti non verificati.
• Responsabilità civile per i danni causati da informazioni false diffuso attraverso l’IA.
• Creazione di un organismo di sorveglianza statale per monitorare le piattaforme di IA che operano nel territorio nazionale.

Nel frattempo, il Federal Trade Commission (FTC) ha annunciato l’intenzione di avviare una revisione preliminare sul rispetto delle normative sulla protezione del consumatore da parte dei fornitori di intelligenza artificiale.

Il ruolo delle piattaforme di distribuzione

Claude è integrato in numerose piattaforme, tra cui app di messaggistica, assistenti vocali domestici e sistemi di supporto al cliente. Dopo l’incidente, diversi partner hanno temporaneamente sospeso l’accesso al modello per verificare l’integrità delle proprie implementazioni.

Una piattaforma di messaggistica ha dichiarato di aver introdotto un filtro aggiuntivo che blocca le domande correlate a “omicidi”, “sparatorie” o “crimini irrisolti”. L’obiettivo è ridurre la probabilità di diffusione di informazioni non verificate.

Il punto di vista degli esperti di IA

Secondo Dr. Lucia Bianchi, ricercatrice in etica dell’intelligenza artificiale presso l'Università di Stanford, “il caso di Claude è emblematico delle limitazioni attuali dei modelli linguistici: sono estremamente capaci di generare testo credibile, ma non hanno una comprensione reale della verità”.

Bianchi ha suggerito tre strategie chiave per mitigare questi rischi:

• Implementare una “verifica a catena di blocchi” che incroci le risposte con fonti affidabili prima della pubblicazione.
• Introdurre limiti di “confidenza” che obblighino il modello a ammettere l’incertezza quando i dati non sono solidi.
• Formare gli utenti su come interpretare i risultati dell’IA, enfatizzando la necessità di verifica indipendente.

Reazioni del pubblico e dei media

Il caso ha generato un’ondata di reazioni sui social network. Molti utenti hanno espresso preoccupazione per la capacità delle IA di “inventare” fatti, mentre altri hanno difeso Claude, ricordando che l’errore è dovuto a “limiti tecnici” e non a una “cospirazione”.

Le principali testate giornalistiche hanno pubblicato editoriali che invitano a un dialogo costruttivo tra sviluppatori, legislatori e società civile, evidenziando la necessità di bilanciare innovazione e sicurezza pubblica.

Prospettive future per Anthropic e Claude

Anthropic ha annunciato un piano triennale per “potenziare la trasparenza” dei propri modelli, includendo:

• La pubblicazione di rapporti trimestrali che dettagliano i miglioramenti dei filtri di contenuto.
• Un programma di “bug bounty” dedicato alla segnalazione di risposte fuorvianti su tematiche criminali.
• Collaborazioni con agenzie di stampa e organizzazioni non governative per creare dataset di alta qualità.

Nel frattempo, il dipartimento di polizia coinvolto ha avviato una revisione interna per valutare l’impatto della falsa soffiata sull’indagine, garantendo che “non sarà più consentito alcun intervento di terze parti non verificati”.

Conclusioni

Il recente episodio di Claude, che ha diffuso una falsa pista su un omicidio irrisolto, mette in luce le responsabilità crescenti delle aziende di IA nel garantire l’accuratezza delle informazioni fornite. L’evento ha innescato una serie di risposte da parte delle autorità, dei ricercatori e dei media, tutte orientate a rafforzare i controlli sulla diffusione di dati sensibili.

Con l’avanzare della tecnologia, è probabile che le normative si irrigidiranno, richiedendo a fornitori come Anthropic di adottare pratiche più rigorose e di collaborare strettamente con le istituzioni per prevenire ulteriori incidenti che potrebbero ostacolare le indagini e compromettere la fiducia del pubblico.