Deep-Dive sull'aggiornamento sull'intelligenza artificiale: immagini sintetiche per combattere il bias
L’intelligenza artificiale (IA) applicata alla medicina promette di supportare le diagnosi e migliorare le cure. Tuttavia, i modelli di machine learning riflettono spesso i pregiudizi presenti nei dati utilizzati per il loro addestramento. Per affrontare questo problema, il progetto “MedGenAI” sfrutta immagini sintetiche per identificare e mitigare il bias, in particolare in applicazioni mediche come la rilevazione del melanoma.
Il problema dei dati squilibrati
Stanislav Frolov, ricercatore presso il DFKI, ha sottolineato come i dati siano sempre un campione distorto della realtà. “La rete apprende da ciò che le diamo; e la verità è che i dati che alimentiamo spesso non rappresentano in modo equo la realtà intera,” ha dichiarato. Questo squilibrio può causare diagnosi errate in alcuni gruppi, ad esempio persone con pelle più scura e giovani, che sono meno rappresentati nei dataset di formazione.
Un esempio concreto riguarda i modelli per la rilevazione del melanoma: nonostante un tasso di sopravvivenza elevato se rilevato precocemente, il loro utilizzo su dati inesatti riduce l’equità del modello e, in ultima analisi, il risultato. Ecco perché il completamento delle informazioni e la visibilità del bias rappresentano un obiettivo più reale rispetto alla completa sua eliminazione.
Un’alternativa: immagini generate con tecnologie AI
Il progetto “MedGenAI” utilizza un modello generativo per creare immagini sintetiche di patologie dermato-oncologiche. Queste immagini sono generate su criteri ben definiti come età, sesso e tipo di pelle. “Con questo sistema, possiamo generare gruppi di test che altrimenti non esisterebbero nella realtà,” spiega Frolov. Attraverso una semplice interfaccia grafica, gli utenti possono modificare i parametri ed esaminare i bias specifici.
La qualità degli output generati è verificata confrontandoli con dati reali e filtrandoli attraverso modelli autonomi. Però Frolov ribadisce un concetto chiave: “Le immagini sintetiche non sostituiscono quelle reali, ma le supportano.” È essenziale coinvolgere esperti che valutino la loro coerenza clinica.
Utilizzare i “counterfactuals” per testare l’equità
Un'ulteriore strategia adottata dal team “MedGenAI” è l’uso dei cosiddetti “counterfactuals,” domande ipotetiche sul funzionamento della rete. Prendendo ad esempio una immagine di una lesione, Frolov e il team modificano una sola variabile (es. il tipo di pelle) e osservano il risultato. “Se la diagnosi cambi o la fiducia della rete cala, possiamo iniziare a mappare i bias,” ha spiegato. Questo tipo di analisi fornisce informazioni molto utili per migliorare l'equità e la trasparenza del modello.
Applicazioni future e limiti
I modelli di intelligenza artificiale promettono di essere applicati in tre settori principali: come strumento di valutazione per nuove strategie diagnostiche, come supplemento ai dati esistenti per migliorare la rappresentatività, e come strumento d’analisi per identificare le caratteristiche che influenzano l’illogicalità delle predizioni. “Ma prima che un modello venga utilizzato nella pratica medica, dobbiamo effettuare studi veraci con pazienti reali e coinvolgere esperti,” conclude Frolov.
L’IA in podcast: aggiornamenti quotidiani
Per rimanere aggiornati sugli sviluppi dell’intelligenza artificiale, esiste il podcast settimanale “KI-Update,” realizzato in collaborazione con The Decoder. Ogni giorno presenta notizie sulla tecnologia AI, mentre i podcast di fine settimana approfondiscono l’impatto sociale del settore. È possibile abbonarsi anche per ricevere aggiornamenti per email tramite il feed RSS o attraverso le principali piattaforme come Spotify, Apple Podcasts, e Google Podcasts.