KI come stampa di supporto cognitivo: Come gli chatbot indeboliscono la capacità di riconoscere le fake news
Uno studio recente del MIT Media Lab ha dimostrato che quando le persone si affidano per lunghi periodi ai sistemi di intelligenza artificiale per verificare i fatti, la loro capacità di riconoscere le fake news si riduce significativamente. Il fenomeno è simile al concetto di "deskilling", simile all’indebolimento che può verificarsi per attività di calcolo matematico con l’uso estensivo della calcolatrice o per la navigazione con l’aiuto dei GPS. Questo dimostra che l’utilizzo improprio della KI potrebbe compromettere la capacità umana di pensare in modo critico.
Chatbot utilizzati come stampa cognitiva
Il problema sta nel fatto che gli chatbot sono spesso imprecisi nel distinguere tra fatti oggettivi e opinioni soggettive. Questo risulta evidente da uno studio commissionato da 22 emittenti radiofoniche e televisive pubbliche internazionali, che hanno testato sistemi KI come ChatGPT, Microsoft Copilot, Google Gemini e Perplexity AI. Quasi la metà delle risposte generate presenta almeno un problema significativo, con il 31% che presenta gravi lacune nelle citazioni delle fonti e il 20% che presenta gravi errori di fatto.
Una perdita di capacità critica
Una squadra di ricercatori ha seguito per quattro settimane 67 partecipanti che valutavano notizie con o senza l’aiuto della KI. Inizialmente, con l’aiuto degli chatbot, i partecipanti hanno riconosciuto meglio le fake news del 21%. Tuttavia, alla fine del periodo, senza l’aiuto della KI, la loro capacità si è ridotta del 15% rispetto al periodo iniziale. Circa il 25% dei partecipanti addirittura si è convinto di essere migliorato, anche se in realtà le performance erano peggiorate.
I rischi per le nuove generazioni
Secondo un rapporto di Pew Research, i giovani sono particolarmente abituati all’uso degli chatbot per aggiornarsi sulle notizie. Nelle scuole degli Stati Uniti, si stima che 1 su 5 studenti utilizza sistemi KI almeno una volta settimanale. Anku Rani, una dottoranda al MIT coinvolta nello studio, osserva nel proprio articolo che l’eccessiva fiducia nella KI può essere pericolosa. I modelli di intelligenza artificiale sono basati su previsioni statistiche e, pur presentando azioni impressionanti dopo la scalabilità, hanno limiti seri in termini di quanto possono generare informazioni affidabili o di come possono impattare gli utenti.
Coaching o stampa?: le interazioni della KI
Secondo il team di ricerca fondamentale è la natura dell’interazione con la KI e come essa funge il ruolo di “coach” o “stampella”. Una strategia conversazionale narrativa, adatta a breve termine, potrebbe incentivare una dipendenza nei consumatori, mentre un metodo sokratico, basato su domande, potrebbe incoraggiare l’apprendimento attivo. Valdemar Danry, dottorando al MIT e coautore dello studio, ha sottolineato che spesso c’è un compromesso tra velocità e sforzo da parte dell’utente.
I punti di debolezza degli chatbot
I modelli KI sono particolarmente esposti a inesattezze quando gestiscono notizie emozionalmente cariche o urgenti. Un altro problema è che i dati di addestramento spesso contengono bias o informazioni non veritiere, il che complica ulteriormente la loro attendibilità. Queste vulnerabilità possono compromettere la capacità dell’utente di sviluppare un senso critico per la verifica della veridicità dell'informazione.
Chiamata all’educazione e consapevolezza
Gli autori dello studio riconoscono che il campione su cui hanno lavorato era limitato: circa 50 articoli validati e un focus geografico circoscritto agli Stati Uniti e al Regno Unito. Nonostante questo, il team è già al lavoro su nuove ricerche che coinvolgeranno gruppi socioculturalmente più diversificati. Il gruppo vuole esaminare se altre forme di interazione, rispetto agli chatbot, possano favorire un apprendimento migliore.
Pattie Maes, professore al MIT e coautrice dello studio, sottolinea l’importanza di educare a comprendere i limiti dell’utilizzo della KI come strumento di apprendimento. “La capacità di analizzare e interrogare le informazioni è cruciale per risolvere problemi e formare una visione personale e autonoma su ciò che ci circonda”, afferma.