I problemi di costo, sicurezza e cultura nell'adozione degli agenti di intelligenza artificiale in ambito aziendale

In che modo le aziende stanno gestendo l'avanzamento nella scalabilità degli agenti di AI

Recentemente, alla conferenza AI Impact di VentureBeat, Brian Gracely, senior director of portfolio strategy di Red Hat, ha approfondito come molte organizzazioni affrontino sfide uniche nel momento in cui portano agenti di intelligenza artificiale nel contesto produttivo. Gracely ha sottolineato problemi fondamentali come il costo elevato, le vulnerabilità uniche e la resistenza culturale all'interno delle organizzazioni.

I leader aziendali si sottostimano in che misura sono in ritardo sugli agenti AI

Molti imprenditori, specialmente quelli che seguono le dichiarazioni del settore e le presentazioni sugli agenti AI, temono di essere già dietro rispetto ai concorrenti che ne fanno uso su larga scala. Tuttavia, Gracely ha osservato che questa preoccupazione è basata su un fraintendimento circa la velocità con cui le organizzazioni apprendono una volta che iniziano a sviluppare agenti di intelligenza artificiale. Le squadre imparano molto più velocemente del previsto, il che rappresenta un vantaggio competitivo, ma genera nuovi problemi.

Uno dei principali effetti collaterali è l’aumento rapido dei costi. L'uso degli agenti AI è aumentato drasticamente rispetto all'epoca dei chatbot, rendendolo una componente crescente nei costi aziendali. Al tempo stesso, la dipendenza da un numero limitato di fornitori di modelli AI sta diventando un punto di preoccupazione crescente per molte organizzazioni.

Le strategie per ridurre il costo degli agenti AI

Il problema principale è che molte aziende sovrastimano i modelli disponibili, utilizzando quelli più potenti indipendentemente dalla complessità del task. Ad esempio, risolvere una richiesta assicurativa non richiede informazioni estese sulla storia occidentale o sui punteggi di calcio mondiale.

Per affrontare questa problematica, molte aziende stanno adottando un meccanismo chiamato "semantic routing", un sistema di classificazione automatica delle richieste. Inoltre, tecniche di caching riducono il numero di volte in cui i dati passano attraverso GPU. Questi metodi permettono la riduzione dei costi di calcolo mantenendo comunque un alto livello di innovazione.

Gestire il costo con il controllo dei token

Gracely ha sottolineato che la gestione finanziaria relativa ai token di AI è simile alle pratiche FinOps, che hanno richiesto anni per emergere per prendere controllo sui costi del cloud. Le basi di questa gestione saranno trasferibili anche nell'ambito della gestione dell'intelligenza artificiale, specialmente con l'educazione delle squadre interne sulle scelte di modelli.

Egli ha chiarito: "Pensiamo all'importanza di insegnare alle persone di cosa è un EC2 nel cloud. Così come allora, ora dobbiamo insegnare alle persone cosa è un token. Non sempre serve un'autentico Rolls-Royce. Non sempre serve caviale, in quanto molte attività non ne richiedono la massima capacità."

Sicurezza e vulnerabilità nell'era dell’AI

Il rapido sviluppo dell'intelligenza artificiale ha portato alla necessità di nuove prassi per la gestione delle vulnerabilità. Gli strumenti AI riescono a individuare vulnerabilità più velocemente rispetto al passato, rendendo obsolette le tradizionali cicli di aggiornamento. Per rimanere sulle difese, le aziende hanno generalmente solo una finestra fra i 7 e i 14 giorni per aggiornarsi.

Secondo Gracely, gruppi come Red Hat stanno già sviluppando patch per nuove vulnerabilità, ma il periodo di embargo potrebbe essere limitato. L'intelligenza artificiale modifica anche il focus delle difese, poiché rileva una combinazione di vulnerabilità apparentemente banali che insieme diventano pericolose.

La complessità dei software richiede un'aggiornamento costante

Con l'aumento della complessità del software e della velocità di scoperta delle vulnerabilità, Gracely ha sostenuto che aggiornare e gestire rapidamente i software diventerà una capacità strategica piuttosto che solo operativa. Le aziende devono adattare la loro struttura al ritmo accelerato del settore per rimanere competitive e sicure.

Scalabilità e collaborazione con gli esperti

Rimane il problema culturale e organizzativo interno alle aziende. Per ottenere una scalabilità reale, le aziende devono ottenere il coinvolgimento costante e approfondito degli esperti di settore. Questi esperti devono essere coinvolti nel processo in modo da non sentirsi minacciati e dovranno essere incentivati a collaborare a lungo termine con questa innovazione.

Incentivi e coinvolgimento per un processo duraturo

Gracely ha sottolinenato l'importanza di costruire un ambiente in cui chi lavora con l'AI abbia motivazione a partecipare attivamente ad essa. Ha spiegato: “Devi considerare che devi offrire ai collaboratori una motivazione che li spinga a partecipare, per non farli sentire minacciati da questa tecnologia e per convincerli a supportarla nel lungo termine.”

Un piano che consideri gli esperti di settore come collaboratori centrali, e non solo strumentali, diventa una strategia cruciale per l’integrazione e lo sviluppo su larga scala degli agenti AI.

Conclusione: L'importanza di un piano a lungo termine

Più che un singolo strumento, l'adozione di agenti AI rappresenta un cambiamento profondo per le aziende. Da una parte, richiede la gestione precisa di costi crescenti e rischi di sicurezza. Dall’altra, richiede l’adattamento organizzativi e la collaborazione strutturale con esperti chiave.

Grazie alle risorse e alle pratiche appena menzionate, le aziende che riescono a gestire queste sfide possono ottenere vantaggi significativi, ma anche in questo senso, come in qualunque innovazione tecnologica, è fondamentale pianificare a lungo termine.