Valutazione dei modelli di apprendimento automatico: fino a quando ci inganneremo?

Il 7 ottobre 2026 l’Escuela Superior de Informática (ESI) dell’Università di Castilla‑La Mancha ha ospitato una conferenza dal titolo “Valutazione dei modelli di apprendimento automatico: fino a quando ci inganneremo?” tenuta dal prof. Ricardo Baeza‑Yates, ricercatore di spicco al KTH Royal Institute of Technology di Stoccolma e alla Universitat Pompeu Fabra di Barcellona. L’intervento, svolto nella storica aula Alan Turing di Ciudad Real, ha attirato numerosi studenti, docenti e professionisti del settore, evidenziando le contraddizioni nascoste dietro le metriche tradizionali di performance delle intelligenze artificiali (IA).

Introduzione: emozioni paleolitiche e tecnologie “magiche”

Baeza‑Yates ha avviato il discorso con una riflessione antropologica: le emozioni che caratterizzarono i primi esseri umani, dominate da paura e meraviglia, sono ancora presenti quando ci troviamo di fronte a tecnologie che appaiono “magiche”. Questa analogia serve a spiegare perché tendiamo a credere ciecamente alle promesse di efficienza e precisione delle IA, ignorando le loro vulnerabilità sistemiche.

Il problema dei dati: approssimazioni alla realtà

Il relatore ha poi evidenziato che i dati su cui si addestrano i modelli non rappresentano la realtà in modo fedele, ma sono sempre delle “approssimazioni”. Tale discrepanza nasce da bias di campionamento, errori di etichettatura e da una rappresentazione incompleta delle minoranze. Quando un algoritmo è valutato su un dataset di prova che riflette gli stessi errori, le metriche risultano ingannevoli, dando l’illusione di una generalizzazione perfetta.

Errori non umani: il caso delle auto autonome

Un esempio concreto discusso è quello delle auto a guida autonoma. Nonostante le prestazioni statistiche (ad esempio, un tasso di incidenti inferiore al 5 % rispetto ai conducenti umani), gli incidenti occorsi in scenari rari o poco rappresentati nei set di addestramento hanno provocato tragici fallimenti. Baeza‑Yates ha sottolineato come la mancanza di trasparenza nei sistemi di decisione renda difficile attribuire responsabilità e migliorare la sicurezza.

Impatto sociale dei sistemi automatizzati: casi Robodebt e Olanda

Passando all’ambito sociale, il professore ha analizzato due casi emblematici. In Australia, il programma “Robodebt” ha utilizzato algoritmi per calcolare indebiti pagamenti di welfare, generando ingenti errori che hanno colpito centinaia di migliaia di famiglie e portato a cause legali su scala nazionale. Un caso analogo è stato osservato nei Paesi Bassi, dove algoritmi di valutazione del rischio di credito hanno discriminato gruppi etnici, dimostrando come l’automazione possa amplificare ingiustizie esistenti se non adeguatamente monitorata.

Il problema con la valutazione dell’IA: medie vs. diversità

Una critica centrale della lezione è l’uso eccessivo di metriche medie (accuracy, F1‑score) che nascondono performance molto diverse tra sottogruppi della popolazione. Baeza‑Yates ha proposto di adottare metriche di “diversità” e “equità”, come l’Equalized Odds o il Disparate Impact, per valutare come un modello si comporta su gruppi specifici, evitando così il rischio di “successi” apparentemente ottimali ma ingiusti.

La falacia della “scatola nera” medica e la “paradosso del Jedi”

Nel settore sanitario, la promessa di diagnosi assistite da IA è spesso accompagnata dalla narrazione della “scatola nera”: un algoritmo produce una decisione, ma gli operatori non ne comprendono i meccanismi. Il professore ha introdotto la “paradosso del Jedi”, secondo cui gli esperti tendono a dare più credito a una spiegazione plausibile rispetto a una basata su evidenze statistiche. Questo fenomeno può indurre medici a fidarsi di suggerimenti non giustificati, con potenziali rischi per la salute dei pazienti.

Misurazione della complessità nei modelli: esempio del conteggio delle facce

Per rendere tangibile la questione della complessità, Baeza‑Yates ha mostrato un esperimento di conteggio delle facce in immagini. Due modelli, uno basato su una rete convoluzionale profonda e l’altro su un semplice algoritmo di rilevamento di punti, hanno ottenuto la stessa accuratezza media su un set di test. Tuttavia, il modello più complesso ha dimostrato una maggiore vulnerabilità a variazioni di illuminazione e angolazioni, evidenziando come la complessità non sia automaticamente sinonimo di robustezza.

Verso una valutazione più realistica

Tra le proposte pratiche, Baeza‑Yates ha suggerito tre linee d’azione:

• Dataset più rappresentativi: includere dati multi‑culturali, di diversi livelli socio‑economici e condizioni ambientali.
• Metriche di equità: integrare misure di diversità nei report di performance per evidenziare disparità nascoste.
• Trasparenza dei modelli: favorire approcci “white‑box” o tecniche di spiegabilità (LIME, SHAP) per rendere comprensibili le decisioni automatizzate.

Conclusioni e prospettive future

La conferenza ha chiuso con una nota di cautela ma anche di speranza. Se la comunità scientifica e le istituzioni adotteranno un approccio più critico alla valutazione delle IA, potremmo ridurre gli inganni auto‑indotti e costruire sistemi più affidabili e giusti. Tuttavia, il professore ha avvertito che la tentazione di semplificare i risultati rimane forte, ed è compito di ricercatori, policy‑maker e utenti vigilare costantemente.