Creare un'intelligenza artificiale più affidabile con dati di qualità: una dieta sana

Ogni modello di intelligenza artificiale impara dalle informazioni che riceve: notizie, studi scientifici, pagine web e milioni di altri testi. Tuttavia, tra questi dati ci sono anche bufale, insulti, errori e contenuti manipolati. Cosa succede quando una macchina impara tutto ciò? I ricercatori delle università di Alicante e Jaén stanno lavorando per garantire che i modelli di linguaggio imparino da informazioni di qualità e siano in grado di riconoscere ciò che non dovrebbero riprodurre.

Come impara un'intelligenza artificiale dai dati che riceve

All'Università di Alicante, il Gruppo di Elaborazione del Linguaggio e Sistemi di Informazione (GPLSI), affiliato al Centro di Intelligenza Digitale di Alicante (CENID), tratta i materiali per costruire e addestrare questi sistemi. L'obiettivo è che una macchina non solo abbia molta informazione, ma impara anche a distinguere quella affidabile da quella che non lo è, a rilevare ciò che può risultare dannoso e ad evitare di riprodurlo.

Questo è il proposito del progetto HEART-NPL, a cui partecipa anche il Gruppo di Sistemi Intelligenti e Accesso all'Informazione dell'Università di Jaén, guidato da Luis Alfonso Ureña. La proposta consiste nel creare un ecosistema di risorse, con basi di dati, documenti, grafici di conoscenza e modelli di linguaggio, che serva per sviluppare strumenti di intelligenza artificiale in diversi ambiti.

«Le risorse sono la cosa più importante per creare un sistema di intelligenza artificiale; senza informazioni è impossibile creare nulla e se quelle informazioni sono di scarsa qualità, il modello impara male», spiega il ricercatore del GPLSI, Yoan Gutiérrez.

Dati di qualità per evitare errori e pregiudizi nell'IA

L'immagine abituale di un'intelligenza artificiale è quella di una macchina che risponde. Scriviamo una domanda e, dopo pochi secondi, appare un testo apparentemente coerente. Ma tra una cosa e l'altra c'è un processo molto più complesso. Il modello ha dovuto imparare da enormi quantità di informazioni.

Qui emerge uno dei problemi affrontati da HEART-NPL, perché non tutte le informazioni servono per insegnare a una macchina. Se i dati contengono errori, pregiudizi, informazioni false o contenuti maliziosi, il modello può incorporarli nel suo apprendimento.

«Se per la costruzione di sistemi di intelligenza artificiale si utilizzano dati non validati, i modelli impareranno il buono, ma anche il non così buono», avverte Gutiérrez. Questo può tradursi in pregiudizi, errori o confusioni e contribuire alle cosiddette allucinazioni dei sistemi di intelligenza artificiale.

Per questo, il progetto inizia molto prima che esista il modello. I ricercatori raccolgono e organizzano informazioni e le sottopongono a processi di validazione e cura. Si tratta di dati strutturati e non strutturati, documenti, conoscenza organizzata in grafici e altre risorse che possono servire in seguito per addestrare modelli o sviluppare applicazioni.

Insegnare all'IA a riconoscere informazioni dannose

Il lavoro si divide inoltre per aree. Ci sono informazioni generali e set specializzati in turismo, salute e ambito giuridico. La specializzazione è importante perché un'intelligenza artificiale non ha bisogno di sapere tutto per essere utile. A volte ha bisogno di sapere molto su una cosa specifica.

Il team lavora con un'idea che va oltre l'alimentazione di informazioni a una macchina. Vuole anche insegnarle a riconoscere ciò che non dovrebbe riprodurre.

«Quando creiamo queste risorse, ci prendiamo cura che siano il più pulite e sane possibile a livello sociale», spiega Gutiérrez.

Per riuscirci, i ricercatori forniscono ai modelli migliaia di esempi. Notizie false, insulti, contenuti di bullismo o informazioni errate possono così diventare esempi che permettono al sistema di imparare a riconoscere questi schemi.

Modelli di intelligenza artificiale specializzati in salute

L'intelligenza artificiale può essere utilizzata per analizzare contenuti. Ad esempio, può esaminare i messaggi pubblicati sui social media e rilevare indizi di bullismo, linguaggio offensivo, informazioni false o determinati pregiudizi. Ma può anche essere utilizzata per generare contenuti che si adattino a criteri di qualità, veridicità e sicurezza.

L'intenzione, riassume il ricercatore, è «cercare di non fare del male e insegnarle a rilevare il danno».

Questo principio si estende anche alle risposte che il modello deve rifiutarsi di fornire. Un'intelligenza artificiale costruita all'interno di questo ecosistema deve essere in grado di proteggere dati privati o riservati e evitare determinate risposte quando le informazioni richieste possono essere utilizzate a fini pericolosi.

«Quando creiamo i modelli, oltre a cercare di farli imparare da questi dati sani, gli insegnamo a proteggersi e a non generare informazioni che possano essere dannose», segnala Gutiérrez.

La qualità dei dati, chiave per un'IA più affidabile

La ricerca mostra anche in che direzione può avanzare questa tecnologia. Un modello di linguaggio generico può svolgere molte attività diverse. Ma se si specializza, può concentrare le sue capacità in un ambito specifico.

È quello che succede, ad esempio, nel lavoro con la salute. I ricercatori stanno utilizzando cartelle cliniche per sviluppare algoritmi in grado di analizzarle ed estrarre elementi rilevanti che possano aiutare in determinate attività legate alla diagnosi.

In questo caso, il modello non ha bisogno di comportarsi come uno strumento capace di parlare di qualsiasi argomento. Deve comprendere soprattutto bene il linguaggio e le informazioni mediche. Specializzandolo, perde parte della sua capacità di svolgere attività generali, ma guadagna capacità di muoversi in quel campo specifico.

La logica è simile a quella di un professionista che si specializza. Più specifico è il suo sapere, più è concentrato su un determinato tipo di problemi.

Gutiérrez confronta questi modelli con «un cervello artificiale» capace di elaborare le richieste degli utenti e costruire risposte in base alle informazioni che possiede. Ma in HEART-NPL c'è una condizione preliminare. Quel cervello deve aver imparato con materiali accuratamente selezionati.

La filosofia del progetto si assomiglia a quella della dieta sana. Se un'intelligenza artificiale si nutre dei dati giusti, non solo funzionerà meglio, ma veglierà anche sulla salute dell'ecosistema. Perché alla fine non si tratta di fabbricare modelli sempre più grandi, ma di prendersi cura che siano ben nutriti con informazioni di qualità.