OpenAI Decisions API: l’IA per decisioni in tempo reale

Introduzione a Decisions API

OpenAI ha introdotto Decisions API, un servizio di inferenza specializzato nella generazione di valutazioni che guidano il comportamento di applicazioni e agenti AI. A differenza delle tradizionali Responses API, che restituiscono risposte in linguaggio naturale, Decisions API utilizza il modello GPT‑6 Luna per calcolare probabilità, classificare informazioni e assegnare punteggi, fornendo risultati strutturati pronti per l’uso diretto nei processi decisionali.

Disponibile dopo una fase di beta pubblica, la nuova API promette prestazioni fino a dieci volte superiori rispetto alle Responses API nelle attività supportate, con un costo a partire da 0,10 dollari per milione di token di input. Il target principale sono i sistemi agentici, dove la scelta dell’azione successiva richiede valutazioni rapide, ripetute ed economicamente sostenibili su larga scala.

Confronto con le Responses API

OpenAI dichiara una velocità fino a dieci volte superiore per le attività supportate rispetto alle Responses API. Il servizio è stato progettato per situazioni in cui un sistema deve scegliere tra alternative definite, classificare contenuti, valutare condizioni o attribuire punteggi, senza generare una risposta articolata in linguaggio naturale.

Il passaggio dall’elaborazione di una richiesta alla selezione di un’azione è cruciale nelle architetture agentiche. Un agente che gestisce un processo aziendale deve continuamente stabilire se le informazioni disponibili sono sufficienti, quale strumento utilizzare, se ripetere un’operazione oppure richiedere l’intervento umano. Sebbene singolarmente queste valutazioni possano apparire semplici, quando vengono ripetute migliaia di volte introducono latenze e costi significativi.

Come funziona Decisions API: tre tipi di risposta

Decisions API utilizza un’interfaccia basata su tre elementi: il modello, i dati di input e un insieme di domande alle quali il sistema deve rispondere. Gli sviluppatori possono definire le condizioni da verificare o le alternative disponibili attraverso tre modalità di valutazione: Predicate, Choice e Score.

Predicate

Questa modalità stima la probabilità che una determinata condizione sia vera, restituendo un valore compreso tra zero e uno. Esempi tipici includono:

• Un’applicazione di controllo qualità che analizza la fotografia di un prodotto per valutare la probabilità di danni visibili.
• Un sistema di assistenza che determina quanto sia probabile che un messaggio contenga una richiesta di cancellazione.

Choice

Choice seleziona una risposta tra un insieme di opzioni prestabilite, fornendo anche le probabilità associate e un indicatore di confidenza. È particolarmente utile nell’orchestrazione degli agenti AI, quando occorre decidere se proseguire un processo, ripetere un’operazione o chiedere ulteriori informazioni.

Score

Score assegna una valutazione rispetto a una scala ordinata definita dallo sviluppatore. Può essere impiegato per classificare la gravità di un problema tecnico, la priorità di un ticket o l’entità di un danno. Il valore restituito corrisponde alla media ponderata degli indici dei livelli, calcolata utilizzando le rispettive probabilità.

È importante sottolineare che Decisions API non produce necessariamente una decisione aziendale completa. Fornisce valutazioni circoscritte, che l’applicazione può utilizzare per scegliere il passaggio successivo secondo le proprie regole operative. Un sistema può, ad esempio, richiedere la verifica umana quando la confidenza è insufficiente oppure autorizzare automaticamente un’attività quando il risultato supera una soglia prestabilita.

Fino a 400 valutazioni in una singola richiesta

Una delle novità introdotte rispetto alla beta pubblica è la possibilità di includere fino a 400 domande in una singola richiesta, contro le precedenti 200. Le domande possono condividere lo stesso contesto, evitando di trasmettere ripetutamente le informazioni necessarie alla valutazione.

Ad esempio, un’applicazione che riceve un documento commerciale può verificare la sua categoria, individuare eventuali anomalie, valutarne la completezza e determinare il reparto di destinazione, il tutto in un’unica chiamata.

Le valutazioni devono comunque essere indipendenti; quando una domanda dipende dal risultato di un’altra, è necessario effettuare richieste successive.

La versione generalmente disponibile introduce inoltre:

• Supporto nativo agli input JSON.
• Immagini inserite nelle istruzioni delle singole domande, con riferimenti a URL HTTP o HTTPS.
• Possibilità di includere la cronologia di una conversazione, comprese le chiamate agli strumenti e i relativi risultati, per valutare lo stato di un workflow agentico considerando le operazioni già eseguite.

L’endpoint dedicato è POST /v1/decisions e attualmente supporta il modello gpt-6-luna.

Decisioni in tempo reale per gli agenti vocali con GPT‑Live

OpenAI ha integrato Decisions API con GPT‑Live, consentendo valutazioni in tempo reale durante conversazioni vocali. Un agente di assistenza può, mentre l’utente parla, determinare se formulare una domanda di chiarimento, indirizzare la richiesta a un altro servizio o trasferire la conversazione a un operatore.

L’integrazione supporta l’attivazione di valutazioni in corrispondenza degli aggiornamenti delle trascrizioni vocali, tramite i trigger delle sessioni GPT‑Live. I risultati vengono restituiti mediante eventi che l’applicazione può interpretare ed eseguire.

Un caso d’uso riguarda gli avatar conversazionali: possono modificare le espressioni del volto in relazione al contenuto emotivo o semantico del dialogo, scegliendo tra un insieme di reazioni predefinite. L’associazione di valutazioni strutturate al flusso della conversazione riduce drasticamente il tempo necessario a decidere come reagire, un parametro cruciale nei sistemi interattivi.

Casi di successo: Box, Datadog, Ramp, Sierra e Speak

OpenAI ha presentato i risultati ottenuti da diverse aziende che hanno sperimentato Decisions API:

Box

Box utilizza Decisions API insieme a Box Extract per classificare documenti aziendali e indirizzarli verso le fasi successive di elaborazione. Su un campione di 30 certificati assicurativi, l’azienda ha osservato una selezione del percorso di elaborazione circa cinque volte più rapida rispetto alle Responses API, mantenendo la stessa accuratezza.

Datadog

Datadog impiega la tecnologia per valutare il rischio dei comandi shell generati dagli agenti prima della loro esecuzione, nell’ambito delle procedure automatizzate di risoluzione dei problemi. L’azienda riferisce una latenza al 95° percentile (p95) 40 volte inferiore rispetto ai modelli frontier utilizzati nel confronto, con accuratezza comparabile.

Ramp

Ramp utilizza Decisions API per attribuire i costi dell’intelligenza artificiale alle attività effettivamente eseguite. Le valutazioni risultano quattro volte più rapide rispetto alle soluzioni precedenti, consentendo una fatturazione più precisa e una gestione più efficiente dei budget AI.

Sierra

Sierra ha integrato Decisions API nei propri sistemi di monitoraggio della sicurezza informatica. Grazie alla capacità di valutare simultaneamente numerose regole di conformità, è riuscita a ridurre i tempi di risposta alle minacce di sei volte, migliorando la reattività operativa.

Speak

Speak, piattaforma di assistenza vocale, sfrutta Decisions API per determinare in tempo reale se una chiamata debba essere trasferita a un operatore umano o gestita interamente dall’assistente digitale. L’integrazione ha portato a una diminuzione del 30 % dei tempi di attesa per gli utenti, mantenendo alta la soddisfazione del cliente.

Prospettive future e considerazioni operative

Decisions API rappresenta un passo significativo verso l’automazione decisionale basata su IA, soprattutto in contesti dove velocità, scalabilità e costi contenuti sono fondamentali. La capacità di gestire fino a 400 valutazioni per richiesta, combinata con il supporto a input multimediali e la cronologia delle conversazioni, apre nuove opportunità per workflow complessi e agenti autonomi.

Le aziende dovranno però definire chiaramente le soglie di confidenza e le logiche di fallback umano, per evitare decisioni automatizzate errate. Inoltre, la tariffazione a consumo richiede una pianificazione attenta del volume di token di input, soprattutto in scenari ad alta frequenza.

Con l’integrazione di GPT‑Live, le applicazioni vocali potranno beneficiare di decisioni quasi istantanee, migliorando l’esperienza utente in tempo reale. Man mano che più sviluppatori adotteranno le tre modalità di valutazione (Predicate, Choice, Score), si prevede una diffusione rapida di architetture agentiche più intelligenti e reattive.