Philipp Herzig (SAP): i LLM non sono adatti a molte previsioni

La generazione di contenuti tramite intelligenza artificiale sta trasformando il modo in cui le persone scrivono, ricercano, programmano e analizzano informazioni, consentendo una produttività più elevata. Tuttavia, un recente studio di McKinsey rivela una discrepanza significativa: l'80 % degli utenti di IA dichiara di aver aumentato la propria produttività personale, mentre solo il 6 % delle aziende segnala un impatto positivo sui benefici operativi.

Il ruolo dei modelli tabulari di base (TFM) di SAP

SAP intende colmare questo divario introducendo i modelli tabulari di base (TFM, “Tabular Foundation Models”). Questi modelli mirano a migliorare la capacità delle imprese di rilevare e gestire in anticipo rischi, domanda, interruzioni e variabili di liquidità. Abbiamo intervistato Philipp Herzig, chief technology officer di SAP, per comprendere i principi alla base di questa tecnologia.

Perché i LLM non sono adatti a molte attività predittive

Negli ultimi tre anni il dibattito si è concentrato quasi esclusivamente sull’intelligenza artificiale generativa e sui grandi modelli linguistici (LLM). Sebbene i LLM offrano capacità straordinarie nel trattamento del linguaggio naturale, rimangono inadeguati per alcune tipologie di compiti tipicamente affidati al machine learning classico, quali:

• Previsioni di flusso di cassa
• Valutazione creditizia
• Manutenzione predittiva
• Ritardi nei pagamenti

Nel riconoscimento di pattern in serie temporali, classificazione o regressione, i LLM risultano inefficienti, poiché richiedono una grande quantità di token per eseguire operazioni che possono essere gestite più agevolmente da modelli tabulari.

Una risposta di SAP: i TFM

Spesso ci chiedono perché SAP non sviluppi un proprio LLM. La risposta di Herzig è semplice: “Il nostro core business riguarda i dati strutturati, tipicamente organizzati in tabelle. È proprio su questi dati che avvengono attività come classificazione, regressione e previsioni di serie temporali, compiti tradizionalmente affidati al machine learning classico”.

Limiti del machine learning classico

Il machine learning classico presenta diverse criticità:

• Necessità di addestrare un modello specifico per ogni caso d'uso.
• Raccolta, pulizia e trasformazione dei dati, un processo spesso laborioso.
• Prova di diversi algoritmi e confronto dei risultati, con tempi che vanno da settimane a mesi.
• Rischio di “model drift” e “data drift”, ovvero l’obsolescenza del modello a causa di cambiamenti nelle distribuzioni statistiche dei dati.
• Richiesta di esperti con competenze avanzate in statistica e apprendimento automatico, risorsa non sempre disponibile, specialmente in settori regolamentati come quello bancario.

Il concetto di modello unico generalista per dati tabulari

Il principio fondamentale dei TFM è trasporre il successo dei grandi modelli linguistici, che possono generalizzare su molteplici compiti di lingua, al dominio dei dati tabulari. Invece di addestrare un modello per ciascun caso, SAP propone un unico modello capace di gestire diverse attività predittive: dal punteggio creditizio alla previsione medica basata su biomarcatori.

Il risultato atteso è che l’utente fornisca al modello una tabella di dati storici e, in pochi passaggi, ottenga classificazioni, regressioni o previsioni senza dover ricorrere a lunghi cicli di sviluppo.

Lo sviluppo di RPT 1.6

Il modello di riferimento di SAP, denominato RPT 1.6, è stato concepito in un progetto di ricerca triennale. L’acquisizione di Prior Labs ha ulteriormente rafforzato le competenze di SAP nel campo dei modelli tabulari, rendendola una delle aziende più avanzate a livello tecnologico.

Strategia di addestramento

Contrariamente a quanto si potrebbe pensare, SAP non utilizza i dati dei clienti per addestrare il modello di base. Le informazioni hanno due origini:

• Dati pubblici tabulari, ampiamente disponibili.
• Dati sintetici generati appositamente per coprire scenari complessi.

I dati reali dei clienti vengono impiegati esclusivamente per la fase di validazione, permettendo a SAP di verificare come il modello reagisce a dataset aziendali concreti senza averli incorporati nel training iniziale.

Performance dei TFM rispetto alle linee di riferimento

Numerose validazioni interne hanno mostrato che i modelli TFM ottengono risultati eccellenti su dati aziendali relativi a finanza, supply chain e risorse umane. La verifica ha dimostrato che, pur non avendo visto i dati dei clienti durante il training, il modello riesce a fornire previsioni accurate.

Il confronto più significativo è stato condotto contro le migliori linee di riferimento di IA ristretta, ovvero modelli costruiti da esperti di machine learning per casi specifici. I risultati sono stati i seguenti:

• Superamento delle linee di base classiche in quasi tutti i casi.
• Vantaggio rispetto a sistemi AutoML avanzati in circa il 70‑80 % degli scenari.
• Riduzione dei tempi di addestramento: mentre le soluzioni tradizionali richiedono ore, RPT 1.6 è pronto a predire con pochi migliaia di record.

Spiegabilità, riproducibilità e compliance

Un problema noto dei LLM è la variabilità delle risposte, influenzata da parametri come la “temperatura”. Inserendo lo stesso prompt più volte è possibile ottenere risultati differenti, limitando la tracciabilità e l’affidabilità.

Al contrario, i modelli TFM di SAP garantiscono:

• Determinismo: gli stessi input producono la stessa predizione e lo stesso livello di confidenza.
• Tracciabilità completa dei risultati.
• Spiegabilità avanzata tramite due meccanismi:
• Explain by Feature: evidenzia le colonne o le caratteristiche (es. età, sesso) che hanno influito sulla decisione.
• Explain by Example: mostra esempi concreti del dataset (righe simili) che hanno contribuito alla predizione.

Questo approccio consente, per esempio, di spiegare a un cliente perché un prodotto è stato consigliato, facendo leva su acquisti analoghi di clienti simili.

Integrazione con l’IA generativa per la spiegazione in linguaggio naturale

Herzig riconosce che l’IA generativa resta preziosa per la comunicazione con l’utente finale. Tuttavia, distingue chiaramente i ruoli:

• I TFM gestiscono l’elaborazione tabulare, la previsione e la spiegazione tecnica.
• I grandi modelli linguistici (ChatGPT, Claude, Joule) continuano a supportare l’interazione in linguaggio naturale, ad esempio per formulare le spiegazioni generate dai TFM in forma discorsiva.

Prospettive future

SAP intende ampliare ulteriormente il portfolio dei TFM, integrandoli con altre soluzioni di cloud e di analytics. L’obiettivo è creare un ecosistema in cui le previsioni tabulari siano immediate, affidabili e accompagnate da spiegazioni comprensibili, riducendo la dipendenza da cicli lunghi di sviluppo e da specialisti di data science.

Conclusioni

Secondo Philipp Herzig, i LLM hanno rivoluzionato il trattamento del linguaggio ma non sostituiscono gli approcci tradizionali quando si tratta di dati strutturati e compiti predittivi complessi. I modelli tabulari di base di SAP, rappresentati da RPT 1.6, offrono una risposta concreta a questa esigenza, combinando efficienza, precisione, spiegabilità e rispetto delle normative. In un contesto aziendale sempre più orientato ai dati, la chiave del successo sarà l’uso appropriato della tecnologia: LLM per la conversazione, TFM per le previsioni.