Come le aziende affrontano le allucinazioni dell'IA
Quando si inserisce un prompt in un modello di intelligenza artificiale, ci si aspetta generalmente che la risposta sia veritiera. Dopotutto, questa è la ragione principale per cui gli utenti si affidano a questi strumenti. Tuttavia, capita fin troppo spesso che una domanda produca una risposta che, a prima vista, appare credibile ma che in realtà si rivela errata. Questo fenomeno è noto come allucinazione dell'IA. Per le aziende che intendono integrare l'intelligenza artificiale (IA) nelle proprie operazioni, comprendere come affrontare le allucinazioni dell'IA sta diventando una priorità assoluta.
I modelli di IA possono rispondere ai prompt in modo coerente la maggior parte delle volte, ma le allucinazioni dell'IA si manifestano solo occasionalmente. Secondo i dati della startup di IA Vectara, le allucinazioni dell'IA possono verificarsi tra lo 0,7% e il 29,9% dei casi, a seconda del modello linguistico di grandi dimensioni (LLM) utilizzato. Questo accade perché l'IA riconosce schemi o oggetti nel suo set di dati di addestramento che in realtà non esistono, fornendo così una risposta fattualmente errata. Poiché le risposte false vengono generate e presentate esattamente come quelle veritiere, non è immediatamente evidente quando si verifica un'allucinazione dell'IA.
Le allucinazioni dell'IA esistono da quando esistono gli LLM e i programmi di intelligenza artificiale generativa, ma sono diventate più evidenti con la crescente diffusione della tecnologia. Grazie alla disponibilità di massa di strumenti come ChatGPT e DeepSeek, oggi ci sono molti più utenti occasionali che interagiscono con l'IA, e molti di essi potrebbero non avere la stessa comprensione del funzionamento intrinseco di questa tecnologia. Analogamente, le aziende stanno ora impiegando l'IA nelle loro operazioni in modi più diversificati, spesso senza possedere una conoscenza approfondita di come funzioni l'IA, il che aumenta la visibilità delle allucinazioni e il loro potenziale impatto negativo.
Come nascono le allucinazioni dell'IA
Sebbene non siano perfetti, ci si aspetta che gli strumenti di IA forniscano risposte veritiere alle richieste umane. Il nome stesso, intelligenza artificiale, implica che lo strumento sia una fonte di conoscenza autentica; molti utenti lo interpretano letteralmente. Gli utenti occasionali dell'IA potrebbero non comprendere appieno il funzionamento della tecnologia e, di conseguenza, non essere consapevoli che le risposte corrette sono basate più sul riconoscimento di schemi che su una comprensione consapevole. Ciò significa che molti utenti non sanno che le risposte derivanti dalle allucinazioni dell'IA devono essere verificate.
Questo problema è aggravato dal fatto che i modelli di IA vengono spesso interrogati su argomenti su cui l'utente ha conoscenze insufficienti, motivo per cui si rivolge al modello in primo luogo. Senza una conoscenza approfondita dell'argomento, può essere difficile individuare anche errori evidenti nelle risposte. L'IA, inoltre, attinge la sua risposta da un vasto set di dati che contiene materiale fattuale, quindi le allucinazioni dell'IA probabilmente conterranno alcuni elementi di verità o somiglianze con la verità. Questo può essere sufficientemente convincente. Sebbene l'utente possa condurre ricerche indipendenti e verificare la risposta, ciò può richiedere tempo e vanifica la comodità offerta dall'utilizzo dell'IA.
A complicare ulteriormente la situazione, quando l'utente chiede all'IA prove a supporto della sua risposta, il modello spesso genera ulteriori informazioni inaccurate. Queste prove appaiono convincenti a prima vista, tanto che l'utente non si rende conto che si tratta di un'allucinazione dell'IA. Anche in questo caso, vengono semplicemente utilizzati i dati per trovare schemi, quindi non c'è intento malevolo, ma le conseguenze sono comunque reali. Questo è accaduto, ad esempio, a uno studio legale che nel 2023 stava lavorando a una causa negli Stati Uniti per un incidente aereo e ha utilizzato ChatGPT per la ricerca, inserendo involontariamente materiale fittizio nelle sue argomentazioni. Alla fine, i giuristi sono stati multati per intento malevolo. Le allucinazioni dell'IA possono manifestarsi rapidamente ed essere difficili da rilevare, specialmente se non esiste un processo di verifica dei fatti. Sebbene alcune allucinazioni possano essere innocue, altre possono avere un impatto significativo, soprattutto se utilizzate in un contesto aziendale.
I potenziali pericoli delle allucinazioni dell'IA nel mondo degli affari
Quando un singolo utente riceve informazioni errate, ciò può essere fastidioso, ma in ultima analisi non necessariamente dannoso. Tuttavia, il panorama cambia radicalmente quando un dipendente utilizza l'IA e riceve un'allucinazione, poiché le conseguenze possono essere di vasta portata e dannose. Questo è particolarmente vero se i risultati supportano la strategia aziendale o convincono attori esterni a intraprendere una determinata linea d'azione. Ad esempio, se un'allucinazione dell'IA fornisce cifre false e il dipendente non ne riconosce l'inesattezza, queste cifre potrebbero essere utilizzate in documenti aziendali che fuorviano investitori, azionisti o clienti riguardo alle reali prestazioni dell'azienda. Ciò può minare la fiducia nell'azienda e danneggiarne la reputazione sul mercato.
La generazione di informazioni imprecise attraverso un'allucinazione dell'IA può prosciugare risorse preziose e ritardare le operazioni. È probabile che questi errori vengano scoperti a un certo punto, richiedendo ai dipendenti di verificare e correggere le informazioni prima che i processi possano essere ripresi manualmente, ma solo dopo un ritardo significativo. Poiché l'errore non viene rilevato immediatamente, tempo ed energie vengono sprecati. Se ciò accade su larga scala, può compromettere notevolmente le prestazioni e avere un impatto negativo sui ricavi. Questo è esattamente l'opposto di ciò per cui la maggior parte dei programmi di IA viene implementata: aumentare l'efficienza e alleggerire il carico di lavoro dei dipendenti.
A causa dei potenziali impatti delle allucinazioni dell'IA, molti decisori stanno diventando sempre più scettici sull'uso dell'IA per casi d'uso critici. Questa esitazione può portare le aziende a non sfruttare i vantaggi dell'IA nel tentativo di evitare le insidie. Per questo motivo, la lotta al problema delle allucinazioni dell'IA ha un impatto positivo anche sulla strategia generale di IA delle aziende, promuovendo una maggiore fiducia e un'adozione più ampia e sicura della tecnologia.
Strategie aziendali per gestire le allucinazioni dell'IA
Le allucinazioni dell'IA sono un sottoprodotto inevitabile dell'elaborazione degli LLM, ma ciò non significa che le aziende non possano ridurne l'occorrenza o l'impatto. Esistono diversi approcci a questo problema, alcuni dei quali si concentrano sul miglioramento del set di dati originale e altri che esaminano l'aspetto della verifica dei fatti degli strumenti di IA.
Ragionamento automatizzato
Un approccio consiste nell'impiegare il ragionamento automatizzato (Automated Reasoning) per verificare i risultati dell'IA man mano che vengono generati. Amazon, con l'introduzione del suo prodotto Automated Reasoning Checks, offre una soluzione contro le allucinazioni dell'IA. Il ragionamento automatizzato utilizza algoritmi matematici basati sulla logica e processi inferenziali per dimostrare la correttezza del risultato, fornendo agli utenti una maggiore fiducia nell'accuratezza dei loro output. Poiché il processo è automatizzato, i clienti non devono ritardare le loro operazioni o verificare manualmente i fatti. Ogni cliente seleziona le proprie politiche e crea una verità assoluta personalizzata, rispetto alla quale vengono verificati i risultati dell'IA, in modo che i risultati siano rilevanti per i loro specifici casi d'uso.
Anche PwC sta attualmente utilizzando strumenti del suo portfolio, inclusa la soluzione Maestro Medical Legal Review, per verificare che i risultati dell'IA siano conformi alle normative specifiche del settore, in particolare quello medico-legale. Questo dimostra come il ragionamento automatizzato possa essere adattato a diversi contesti per garantire non solo la verità fattuale, ma anche la conformità normativa.
Miglioramento della qualità dei dati
Un altro metodo fondamentale per combattere le allucinazioni dell'IA consiste nel migliorare la qualità dei dati utilizzati per addestrare i modelli. Le allucinazioni spesso derivano da dati di addestramento incoerenti, incompleti o errati. L'implementazione di rigorosi processi di pulizia, validazione e curatela dei dati può ridurre significativamente le probabilità che un modello "inventi" informazioni. Un set di dati più pulito e accurato consente al modello di apprendere schemi più affidabili e di generare risposte più precise. Questo approccio è proattivo, agendo alla radice del problema delle allucinazioni e costruendo una base più solida per l'affidabilità dell'IA.