DeepSeek riduce i prezzi del 75%. Resta il problema 100x
La decisione di DeepSeek di ridurre drasticamente i prezzi del V4-Pro del 75% avrebbe dovuto rappresentare una buona notizia per i fornitori di AI enterprise e gli sviluppatori. Invece, molti stanno scoprendo che modelli più economici non equivalgono automaticamente a margini più saldi.
La ragione è semplice: se da una parte i costi di inferenza scendono, i sistemi agenti consumano token molto più velocemente del calo dei prezzi. Nel corso degli ultimi 20 anni, l'economica software seguiva una regola ben precisa: l'infrastruttura diventava sempre più economica, mentre le applicazioni diventavano più potenti. L'intelligenza artificiale inizialmente seguiva la stessa logica. Si supponeva che man mano che i modelli all'avanguardia miglioravano e i prezzi dei token diminuivano, i costi per l'inferenza si riducessero quasi a un costo operativo trascurabile.
Questa assunzione però sta iniziando a cadere esponenzialmente. Un chatbot trasforma un'unica domanda utente in una sola chiamata al modello. Un agente, invece, lo trasforma in una catena composta da pianificazione, ricerca, utilizzo di strumenti, verifica, sintesi e decisioni di follow-up. L'utente vede una risposta, ma il venditore paga il lavoro complessivo. Questo è il "100x problem": lo stesso richiesta visibile utente può costare molto di più come workflow agente, rispetto a un semplice chatbot o risposta di generazione supportata dal recupero contesti (RAG). Nei flussi di lavoro a lungo termine, il moltiplicatore è persino maggiore.
La portata del problema si evidenzia chiaramente attraverso come i fornitori di modelli valutano le relazioni con gli sviluppatori. OpenAI ha proposto un piano per dare a ogni startup del Y Combinator 2 milioni di crediti API. Questa cifra, che in qualsiasi altro ciclo tecnologico sarebbe bastata ad alimentare un intero round di finanziamento, mostra come funzioni il costo di operare un'impresa native AI nel suo primo anno. Per le aziende stabilite che stanno aggiungendo agenti ai loro prodotti esistenti, i numeri assoluti sono ancora più grandi.
Che cosa è l' "amplificazione dei token"
Nel contesto di un chatbot a unica risposta, un messaggio utente genera circa una singola chiamata al modello. Il rapporto input a risposta fatturabile è intorno a 1:5.
In un agente multistep distribuito in settori come supporto clienti, operazioni commerciali, finanza, revisione legale ed ingegneria, il rapporto spesso supera il 1:700. Ogni iterazione del ciclo porta avanti una conversazione cumulativa, gli output degli strumenti, e le tracce del ragionamento. Ogni passo aggiunge al flusso; niente viene abbandonato.
Una domanda di "agente semplice" come "Cos'hanno chiesto i nostri clienti top la scorsa settimana?" tocca in genere sette operazioni a pagamento prima di ritornare una risposta:
- Richiesta dell'utente (~50 token)
- Promemoria sistema e definizioni strumenti (~3000 token, ripetuti su ogni chiamata)
- Recupero (~5000 token di contesto)
- Chiamata al modello #1 - selezione del tool (8000 in / 200 fuori)
- Esecuzione dello strumento (~4000 token restituiti)
- Chiamata al modello #2 - sintesi (12000 in / 400 fuori)
- Chiamata al modello #3 - decisione di follow-up (12400 in / 100 fuori)
Una frase in input, circa 35000 token input fatturati. Tra i 0,10 e i 0,40 dollari pro quota su un modello all'avanguardia. Moltiplicare questo per un milione di query mensili — la soglia base per qualsiasi funzione B2B enterprise — e l'articolo fatturabile arriva a sei cifre.
Perché questo rompe il modello di business AI attuale
Il modello di prezzo dominante per l'
enterprise AI
è stato il
software as a service basato sui posti
Pago per utente al mese, fornisco capability agenti, curo i margini. Questo modello presuppone che i costi per utente siano abbastanza prevedibili.
L'amplificazione dei token mette in discussione questa supposizione. Un utente attivo che esegue 50 invocazioni agente al giorno attraverso un piano da 40 dollari/posto può costare di più per l'inferenza di quanto il piano gli imputi. L'amplificazione dei token spaccia quindi il modello SaaS tradizionale. Quando l'attività giornaliera svolta da un utente agente costa di più in inferenza rispetto al costo mensile della loro sottoscrizione, i margini lordi del venditore diventano negativi, un paradosso che si compone man mano che i clienti aumentano l'uso degli agenti, esattamente la curva d'utilizzo che i venditori vendono ai loro consigli di amministrazione. Diverse aziende hanno iniziato a segnalare in privato margini lordi negativi per utenti pesanti, specchiando recenti rapporti sull’uso della nuvola da parte della coorte "Supernova" di Bessemer, dove la correlazione tra l’adozione degli agenti AI e la contrazione dei margini lordi si è mossa da un rischio teorico a un principale problema di bilancio.
I sintomi visibili hanno iniziato a emergere nei copie pubbliche. Bloomberg, questa settimana, ha riportato una distorsione crescente tra le dimostrazioni di Agentforce e le funzionalità effettivamente consegnate ai clienti. Questo tipo di distorsione si apre in modo prevedibile quando le funzionalità promesse sono tecnicamente possibili ma economicamente non sostenibili a prezzi suggeriti dal modello a posti. Salesforce è l'esempio più seguito, ma certo non l'unico.
"Per il nostro team, il costo di calcolo supera di gran lunga il costo delle risorse umane"
— Bryan Catanzaro, VP Deep Learning Applicato, Nvidia
Il significato strategico non è che l'intelligenza artificiale è cara. È che il modello commerciale dominante ipotizzato da quasi tutti i piani per imprese basate sull'intelligenza artificiale non sopravvive al contatto con i carichi di lavoro agenti.
Più semplicemente
Consideriamo un venditore di software enterprise che cobra $40 utente/mese per un assistente AI per il supporto. Un chatbot tradizionale potrebbe costare solo pochi centesimi a utente al giorno, lasciando margini lordi sani.
Immaginate che lo stesso chatbot venga sostituito da un workflow agente completo capace di indagare su ticket, interrogare i sistemi interni, redigere risposte, validare output e gestire eccezioni. Se un utente pesante esegue 5