La lotta per separare i modelli dagli agenti secondo Guillermo Rauch, CEO di Vercel

Conosciuta per la sua infrastruttura cloud che permette agli sviluppatori di distribuire agenti senza dover gestire server, Vercel si è silenziosamente affermata come una delle aziende più centrali nel software AI. L’azienda attualmente vede 6 milioni di deployment al giorno, metà dei quali attivati da agenti di coding e oltre un trilione di token che si muovono attraverso il gateway AI della società.

Dopo la recente conferenza ShipNYC, abbiamo parlato con Guillermo Rauch, CEO di Vercel, per comprendere meglio questo momento e come aziende come Vercel si confrontano con i vari laboratori di intelligenza artificiale. Ecco una breve trascrizione modificata.

Un’atmosfera diversa nella comunità

Quest’anno si avverte un’energia diversa rispetto al passato, con una riduzione dei programmi pilota e un aumento dell’interesse nei confronti di soluzioni pratiche e testate. Questo cambiamento è visibile anche tra i clienti, con un focus sull’implementazione funzionale e sulla scalabilità. All’interno di Vercel, questo processo ha visto l’azienda passare da anni dedicati alle prototipazioni, dove “ogni limite era un limite in meno”, a un periodo in cui si affronta la realtà di agenti in produzione e si gestiscono le sfide operative.

Use cases chiave per gli agenti

L’esperienza interna di Vercel ha evidenziato due grandi casi d’uso per gli agenti. Il primo, ovviamente, è il coding agent, che oggi alimenta un’enorme quantità di token nell’ecosistema. Tuttavia, creare software implica anche il dover trovare un luogo sicuro e affidabile in cui ospitarlo. Il secondo caso chiave è rappresentato dagli agenti interni che aiutano a gestire in modo efficiente una azienda. Qui i problemi di accesso ai dati, la sicurezza e l’audit diventano fondamentali.

Come rispondere a domande come: “In che modo un agente può accedere ai dati? C’è un modo per controllare le sue azioni e verificare le sue decisioni?”? Per affrontare questi ostacoli, Vercel ha sviluppato il framework “Eve”, che consente di fornire a un agente le istruzioni e le capacità necessarie tramite naturale linguaggio. Inoltre, l’utilizzo di Vercel Sandbox consente di “rinchiudere” l’agente in un ambiente isolato, permettendogli di agire autonomamente ma senza minacciare la sicurezza dei dati sensibili.

Proteggere i dati: la sfida più grande

L’utilizzo di strumenti di codifica come Devin o Cursor può costituire un rischio serio per chi ha codici esclusivi, come ad esempio nel settore aerospaziale. Immaginate che un programmatore installi strumenti sbagliati: il programma potrebbe caricare nel cloud i codici che hanno costato anni di lavoro. Questo è un pericolo che Guillermo Rauch non dimentica e che ha discusso recentemente con un presidente di Airbus.

Per risolvere questi problemi, il Sandboxed di Vercel introduce il concetto di controllo dati e politiche applicabili. L’agente può muoversi liberamente ma dentro un ambiente che limita chiaramente cosa può essere acceso, modificato o rimosso. Questo rappresenta una svolta chiave nel modo in cui si pensa alla gestione di agenti nel contesto aziendale.

I benefici degli agenti interni in pratica

Un esempio pratico all’interno di Vercel riguarda i suoi rappresentanti vendita. Il team di vendita si occupa di espandere basi esistenti, ma in passato soffriva di un collo di bottiglia in termini di accesso ai dati. Senza chiarezza, una rappresentante non poteva stabilire rapidamente su quali clienti focalizzarsi. Ora, con un agente interno, il team può chiedere in tempo reale chi sono state le cinque basi clienti con il maggior aumento di postazioni negli ultimi due settimane. Questo non solo migliora la productività, ma rende il lavoro più agile e rispondente.

L’impatto sugli agenti e le relazioni coi laboratori AI

Nel 2023 c’era un grande focus nel scegliere un laboratorio specifico (ad esempio OpenAI o Anthropic) e costruire su di essi. Oggi si sta osservando un movimento diverso, dove le aziende cominciano ad adottare un approccio modulare: utilizzare il modello che funziona meglio, il framework che conviene di più, o il modello open-source quando la performance e il costo sono in favore.

La competizione diretta con i laboratori come OpenAI è emersa chiaramente con il lancio di nuovi strumenti che permettono la pubblicazione immediata su internet. Per Vercel questo rappresenta una opportunità, poiché se gli utenti considerano ChatGPT come uno strumento di creazione, potrebbero chiedere in modo naturale suggerimenti per l’hosting del loro lavoro. Ciò comporta però una diretta competizione con le piattaforme esistenti, che hanno dominato il mercato per anni.

Separare modelli e agenti

Guillermo Rauch ha espresso chiaramente la volontà di Vercel di separare modelli, agenti e framework, seguendo l’esempio del software tradizionale da anni, dove una parte del sistema si preoccupa di intelligenza artificiale, e un’altra di logica operativa. L’azienda si presenta non solo come un fornitore di strumenti, ma come una “nuova AWS” per il panorama attuale, promuovendo protocolli aperti e una architettura modulare, dove ogni componente (modello, API, agenti) può essere sostituita liberamente.