Costi AI imprevedibili: perché il modello più economico può costare di più

Il problema della previsione dei costi

Il rapporto annuale di Mavvrik e Benchmarkit, realizzato tra aprile e maggio, ha intervistato 396 organizzazioni operanti nei settori tecnologia, finanza, retail e manifattura. I risultati sono preoccupanti: solo l’11 % delle imprese riesce a stimare la spesa AI con uno scarto inferiore al 10 %, contro il 15 % del 2025. Tra le startup nate sull’AI, la percentuale scende al 3 %.

Questa difficoltà di previsione è legata al modo in cui i fornitori calcolano le tariffe: la fatturazione avviene per “token”, unità di testo generate o elaborate dal modello. Un modello che ragiona a lungo o un agente che ripete più volte lo stesso passaggio consuma molti più token, senza che il prezzo unitario lo faccia intuire.

Token di ragionamento e l’inversione di prezzo

Il fenomeno è stato definito “inversione di prezzo”. In uno studio condotto da Lingjiao Chen, Ion Stoica, Matei Zaharia e James Zou, otto modelli di ragionamento sono stati testati su dodici compiti diversi (matematica competitiva, generazione di codice, agenti multi‑dominio). Nei 32 % delle coppie, il modello con il listino più basso ha prodotto il conto più alto, con scarti fino a 28 volte.

La causa principale è rappresentata dai token di ragionamento: testo intermedio prodotto dal modello per elaborare la risposta, che viene fatturato anche se non visibile all’utente. Su una stessa domanda, un modello può generare fino al 900 % in più di token rispetto a un altro.

Variabilità della ripetizione

• Rilanciando due volte la stessa richiesta, la quantità di token di ragionamento può variare fino a 9,7 volte.
• Nel caso degli agenti, il numero di turni di interazione può crescere fino a dieci volte, amplificando ulteriormente il consumo.
• Due esecuzioni dello stesso compito agentico possono differire di trenta volte in termini di token consumati.

Evidenze empiriche

Un caso emblematico è quello di Gemini 3 Flash, che costa l’80 % in meno di GPT‑5.4 ma, in una batteria di test su matematica, scienze e programmazione, ha registrato una spesa superiore del 38 %. Il caso è stato riportato dal Wall Street Journal, che ha evidenziato come molte aziende non riescano più a mettere a budget la spesa AI.

Altri esempi concreti:

• Amazon: 1,8 milioni di dollari spesi in un progetto basato su Claude per abbinare record degli autori alle schede prodotto, con un superamento del budget dell’860 % e risultato inutilizzabile.
• Uber: esaurito il budget annuale per l’AI agentica già a marzo; successivamente ha imposto un tetto di 1.500 dollari al mese per dipendente per ogni strumento di coding agentico (Cursor, Claude Code).
• GitHub Copilot: dal 1 giugno il modello premium è passato da un forfait a un sistema basato su crediti consumati in base a token di input, output e cache. Il canone a utente (seat) è diventato una franchigia di consumo, con budget configurabili a livello aziendale e per singolo utente.

Conseguenze operative

Le ripercussioni sono già evidenti:

• Il 40 % del campione ha dovuto segnalare una sorpresa di costo al consiglio di amministrazione.
• Un terzo ha congelato la spesa AI in emergenza.
• Un’azienda su quattro ha rinviato o cancellato un progetto.
• Quasi la metà ha dovuto rivedere il prezzo dei propri prodotti basati sull’AI.

Il WSJ descrive l’AI agentica come un “lavoratore”: paga per il tempo impiegato, compresi errori e ritentativi, similmente a un collaboratore umano pagato a ore.

Strategie di gestione dei costi

Per affrontare l’incertezza, gli esperti propongono di spostare l’unità di misura dal costo per token al costo per compito completato con successo. Questa metrica deve diventare il fulcro di una disciplina di controllo ispirata al FinOps, nata per governare la spesa cloud.

Elementi chiave della disciplina:

• Monitoraggio trasparente del costo di ogni chiamata, fornito dal provider.
• Definizione di budget per task, team o progetto, con soglie di allarme.
• Attribuzione di responsabilità finanziarie a product manager, data scientist e team IT.
• Utilizzo di strumenti di ottimizzazione dei token, ad esempio riducendo i token di ragionamento superflui.

Evoluzione del modello di pricing

Le grandi aziende stanno già modificando il proprio approccio:

• Microsoft ha limitato l’accesso a Claude Code per alcuni dipendenti, favorendo un assistente interno.
• Meta (Andrew Bosworth) ha sottolineato che il volume di token non misura l’impatto reale sul lavoro.
• Salesforce ha creato un sistema che collega l’uso dei token ai risultati di business.
• Sam Altman ha riconosciuto pubblicamente che il costo è diventato un “problema enorme” per le imprese.

Il gergo “tokenmaxxing”, usato in Silicon Valley, descrive l’abitudine di spingere l’uso dei modelli come se il consumo fosse di per sé una prova di produttività. Amazon ha chiuso la classifica interna che premiava i dipendenti in base ai token utilizzati, segnando un cambiamento culturale.

Verso una governance più solida

Adottare il FinOps per l’AI significa:

• Stabilire costo per task come KPI principale.
• Integrare team finanziari e tecnici nella definizione di policy di utilizzo.
• Implementare dashboard che mostrino in tempo reale token consumati, costi associati e risultati ottenuti.
• Educare gli utenti a scrivere prompt più