Come abbiamo costruito il nuovo stack pubblicitario di ChatGPT per fiducia e rilevanza

Le tradizionali piattaforme pubblicitarie rispondono a unità discrete di intento dell’utente: una query di ricerca o la visualizzazione di una pagina generano un evento, il sistema recupera gli annunci corrispondenti e li mostra. Per ChatGPT il paradigma è diverso: l’intento si sviluppa lungo una conversazione, si trasforma in più turni e talvolta non appare un momento ovvio per inserire un annuncio. Per supportare questa nuova dinamica abbiamo costruito un sistema di erogazione annunci su misura, basato su un modello di linguaggio di frontiera post‑addestrato che effettua chiamate a strumenti per il recupero, il ranking, la valutazione di rilevanza e l’asta finale.

Tre decisioni chiave per gestire intenti evolutivi

Il nostro stack pubblicitario affronta la sfumatura degli obiettivi dell’utente con tre scelte architetturali fondamentali:

• Sessioni pubblicitarie stateful: le informazioni vengono ricordate sia fra i turni di una singola conversazione sia tra conversazioni diverse.
• LLM post‑addestrato con architettura a chiamata di strumenti: interpreta il contesto e l’intento della conversazione, seleziona, classifica e consegna gli annunci.
• Processo di selezione separato dalla generazione di risposta di ChatGPT: l’annuncio è gestito da un servizio indipendente, così da non influenzare la voce neutra di ChatGPT.

Il modello post‑addestrato orchestra l’intero flusso pubblicitario, determinando l’annuncio più adatto al momento giusto, basandosi sia sul turno corrente sia sulla cronologia della conversazione. Mentre in passato la creazione di un sistema auto‑migliorante avrebbe richiesto anni, ChatGPT Ads ha raggiunto un fatturato annualizzato di 1 miliardo di dollari in meno di 200 giorni dal lancio; più di 100 000 inserzionisti hanno già utilizzato la piattaforma.

Come dovrebbe funzionare la pubblicità in una chat agente

Una richiesta pubblicitaria tradizionale parte da un evento ben definito: l’utente inserisce una query o apre una pagina, il sistema riceve la richiesta, recupera i candidati, li classifica, esegue l’asta e mostra l’annuncio. In una conversazione con ChatGPT, gli utenti arrivano con obiettivi più ampi, non con una singola domanda.

Esempi tipici includono la pianificazione di un viaggio, la scelta di un software aziendale, l’arredamento di una casa o l’apprendimento di un nuovo hobby. Questi obiettivi si sviluppano in più turni, con ChatGPT che aiuta l’utente a chiarire le priorità lungo il percorso.

Un caso concreto: il nostro team di ingegneria ha chiesto a ChatGPT come allenarsi per una gara. La conversazione è iniziata con una domanda generale sulla corsa, e solo dopo diversi turni è stata posta una richiesta su scarpe da corsa. L’intento commerciale è cambiato ad ogni nuova restrizione, evolvendosi anche tra sessioni diverse. Un sistema che si basasse solo sul primo messaggio avrebbe potuto proporre l’annuncio sbagliato, degradando l’esperienza.

Per questo motivo abbiamo dovuto superare l’architettura request‑response tradizionale, creando da zero uno stack pubblicitario capace di individuare opportunità economiche senza compromettere la fiducia e il valore per l’utente.

Memoria della conversazione senza influenzare le risposte di ChatGPT

Convertire ogni messaggio in una richiesta indipendente, come farebbe un sistema tradizionale, avrebbe introdotto diversi rischi:

• Interpretazione errata dell’obiettivo dell’utente a causa di una semplificazione eccessiva.
• Avvio prematuro del flusso pubblicitario, prima che il vero bisogno dell’utente sia chiaro.
• Visualizzazione di annunci che ostacolano il percorso dell’utente anziché supportarlo.
• Esecuzione inefficiente del flusso pubblicitario ad ogni cambiamento di richiesta, generando rumore e costi inutili.

Invece di basarci su eventi isolati, il nostro sistema pubblicitario (composto da recupero, ranking e consegna) mantiene una sessione stateful. La sessione dura per tutta la durata di un turno idoneo, ricordando e aggiornando le informazioni man mano che evolvono. ChatGPT invia il contesto iniziale al server pubblicitario, che poi segue e si adatta allo scambio in corso.

Il processo di selezione degli annunci avviene in parallelo alla generazione della risposta di ChatGPT, garantendo che il flusso pubblicitario non influisca sulle risposte organiche. Un servizio separato, con propri criteri di elegibilità, qualità e consegna, valuta se esiste un’opportunità pubblicitaria e, in caso affermativo, prepara il posizionamento sponsorizzato.

La pubblicità corre accanto al percorso di risposta di ChatGPT.

Questa separazione porta vantaggi pratici: se il servizio pubblicitario è inattivo o lento, le risposte di ChatGPT rimangono inalterate. Inoltre, l’assenza di un annuncio è considerata un risultato di successo; il sistema mostra un annuncio solo quando è chiaramente vantaggioso sia per l’utente sia per l’inserzionista.

LLM orchestratore: interpretare conversazioni e chiamare strumenti

Il componente architetturale centrale è il LLM post‑addestrato, definito orchestratore, che interpreta le conversazioni e gestisce l’intero flusso pubblicitario tramite chiamate a strumenti:

• Recupero: identifica rapidamente un ampio set di potenziali annunci.
• Ranking: prevede il coinvolgimento dell’utente.
• Rilevanza: valuta l’utilità dell’annuncio rispetto al contesto.
• Asta: determina il prezzo finale e seleziona l’annuncio vincente.

Il primo passo è comprendere l’intento dell’utente per avviare il recupero. Poiché la conversazione arriva in modo incrementale, il problema di recupero è più ambiguo: l’orchestratore deve distinguere l’intento corrente dal contesto obsoleto, interpretare riferimenti a messaggi precedenti, riconoscere ipotesi e non trattare ogni menzione di un prodotto come una richiesta di acquisto.

L’orchestratore utilizza il contesto della conversazione e le informazioni disponibili sull’utente (se l’utente ha acconsentito alla personalizzazione) per iterare tra gli strumenti, cercando l’annuncio che massimizza sia il valore per l’utente sia quello per l’inserzionista.

Durante la conversazione, l’orchestratore può effettuare nuove chiamate agli strumenti con il contesto aggiornato, ottenendo annunci più pertinenti che vengono restituiti al client in tempo reale.

L’orchestratore è progettato per bilanciare valore utente e valore inserzionista, mettendo sempre gli utenti al primo posto.

Flusso dettagliato del processo

Il flusso operativo si articola in più fasi:

• Sintesi della conversazione: l’orchestratore trasforma i messaggi in un breve riassunto testuale.
• Creazione di embedding semantici: il riassunto viene convertito in vettori di significato, più facili da confrontare con gli annunci.
• Recupero dei candidati: usando gli embedding, il sistema estrae un ampio pool di annunci potenzialmente rilevanti.
• Filtraggio di elegibilità: si scartano gli annunci non conformi a budget, impostazioni dell’utente o restrizioni legali.
• Ranking predittivo: un modello predice il tasso di click e la soddisfazione dell’utente per ciascun candidato.
• Asta in tempo reale: gli inserzionisti competono per il posizionamento, con prezzi determinati dal valore previsto.
• Consegna finale: l’annuncio vincente viene formattato e inviato al client, pronto per essere mostrato accanto alla risposta di ChatGPT.

Ogni fase è gestita da un “tool” separato, chiamato dall’orchestratore in modo iterativo finché non si individua la soluzione ottimale.

Risultati, metriche e prospettive future

Dalla sua introduzione, ChatGPT Ads ha dimostrato che è possibile coniugare un modello di intelligenza conversazionale con un ecosistema pubblicitario efficace e rispettoso della fiducia dell’utente. I principali indicatori di performance includono:

• Fatturato annualizzato di 1 miliardo di dollari in meno di 200 giorni dal lancio.
• Oltre 100 000 inserzionisti attivi, con una crescita costante del volume di spesa.
• Tasso di click (CTR) medio superiore al 3 % nelle prime campagne, segnale di alta rilevanza.
• Indice di soddisfazione utente (CSAT) stabile sopra il 85 % anche in presenza di annunci.

Il modello di separazione dei servizi garantisce che eventuali problemi di latenza o downtime del sistema pubblicitario non impattino la generazione di risposte di ChatGPT, preservando l’esperienza dell’utente. Inoltre, la capacità di personalizzare gli annunci in base a dati non sensibili delle conversazioni passate apre la porta a raccomandazioni più mirate, mantenendo al contempo la privacy come priorità.

Guardando al futuro, il team sta esplorando:

• L’integrazione di feedback in tempo reale dagli utenti per affinare ulteriormente il ranking.
• L’estensione della personalizzazione a contesti multilingue, sfruttando i modelli LLM multilingue.
• L’uso di tecniche di reinforcement learning per far “imparare” all’orchestratore a scegliere gli annunci più etici e meno intrusivi.

In sintesi, la costruzione di un nuovo stack pubblicitario per ChatGPT ha richiesto una revisione totale del tradizionale modello request‑response, l’introduzione di sessioni stateful, un LLM orchestratore e una netta separazione dei servizi. Il risultato è una piattaforma che genera valore economico significativo senza compromettere la fiducia e la neutralità di ChatGPT.