AI Poisoning: Come i truffatori manipolano ChatGPT per indirizzare agli shop falsi
La tendenza al commercio basato sulle conversazioni, con l’uso di assistenti basati sull’intelligenza artificiale al posto delle motori di ricerca, apre nuove possibilità per i truffatori. Negli ultimi tempi, in Gran Bretagna è emerso un caso emblematico in cui le risorse offerte da ChatGPT sono state utilizzate per indirizzare gli acquirenti verso negozi falsi, imitando in modo convincente marche britanniche note.
Una minaccia crescente per il consumatore
I truffatori hanno cominciato a sfruttare i sistemi di ricerca e di consigli alimentati da grandi modelli linguistici (LLM) per promuovere siti falsi di commercio online. Questo è emerso chiaramente da un articolo pubblicato da The Guardian, che ha reso noto come negozi virtuali falsi, simili per struttura a marche note come Russell & Bromley e Dunelm, appaiano nei risultati della ricerca di ChatGPT. Questa pratica, conosciuta come “AI Poisoning”, rappresenta una minaccia seria per la protezione dei consumatori.
Così funziona il trucco
I falsi negozi replicano l’aspetto grafico e l’esperienza utente dei negozi originali con l’aiuto di tecnologie di intelligenza artificiale. Si presentano come negozi legittimi, propongono merci a sconti straordinariamente elevati e appaiono autorevoli. Tuttavia, quando gli acquirenti pagano per anticipo, i prodotti non vengono consegnati, e i truffatori tengono in serbo dati sensibili per scopi fraudolenti.
Per rendere più credibile la truffa, i criminali utilizzano spesso nomi di dominio con piccole alterazioni rispetto ai negozi originali, aggiungendo parole come “ufficiale”, “online” o riferimenti geografici riconoscibili. Questo tipo di strategia aumenta la credibilità all’apparenza.
La tecnica dell’AI Poisoning
Il cosiddetto “AI Poisoning” non è un concetto nuovo, ma sta rapidamente acquisendo rilevanza. Funziona introducendo informazioni manipolate nei database utilizzati per alimentare modelli di intelligenza artificiale. In questo modo, i criminali riescono a far credere ai sistemi di ricerca che determinati link siano rilevanti quando in realtà conducono a negozi truffaldini.
Una questione non solo britannica
Sebbene al momento in Germania non siano emersi casi documentati di questo genere, gli esperti avvertono che la situazione potrebbe ben presto cambiare. I meccanismi tecnologici utilizzati per manipolare le informazioni sono in fase di diffusione. Una semplice ricerca di un oggetto raro, ad esempio, potrebbe portare agli stessi link falsi se opportunamente influenzata da strategie di ottimizzazione AI.
Come difendersi dagli shop truccati
I consumatori non devono mai dare per scontato che un sito proposto da ChatGPT o da un servizio simile sia attendibile. Prima di completare un acquisto online, è importante verificare manualmente l’autenticità del negozio. Si consiglia di confrontare le informazioni del dominio con quelle ufficiali del negozio, di verificare la presenza di certificati per l’acquisto sicuro e di evitare link che sembrano sospetti.
- Cercare attentamente i dettagli del negozio online
- Controllare la struttura del nome del dominio
- Evitare pagamento anticipato su piattaforme non verificate
- Utilizzare servizi di controllo dei negozi falsi
Un futuro più incerto
Anche se OpenAI ha rimosso i link identificati come truffaldini da ChatGPT, il problema rappresenta una sfida crescente per il commercio elettronico globale. L’utilizzo diffuso di tecnologie di intelligenza artificiale da parte dei truffatori non solo rende più semplice la realizzazione di negozi falsi, ma ne facilita anche il posizionamento nei sistemi di ricerca automatizzati.
Per il futuro, è fondamentale sviluppare un senso critico da parte delle utenti e degli utenti, nonché investire in misure tecnologiche mirate a rilevare e bloccare tali truffe prima che vadano a effetto.