Piattaforma NVIDIA Open Agent Safety: Sicurezza per Agenti IA
La crescente adozione degli agenti IA come forza lavoro digitale ha portato alla necessità di strumenti per verificare la sicurezza dei prodotti. La piattaforma NVIDIA Open Agent Safety è stata creata per rispondere a questa esigenza, offrendo un design di riferimento aperto che monitora e governa continuamente il comportamento degli agenti IA.
La piattaforma include NVIDIA OpenShell, un runtime open source che fornisce strumenti di governance per applicare ciò che un agente può vedere, fare e con cui interagire. I controlli rimangono in vigore quando gli agenti si comportano in modo inaspettato, limitando la diffusione degli errori. Inoltre, NVIDIA Sentry fornisce la telemetria out-of-band e su silicio dell'attività degli agenti e dell'applicazione delle policy di sicurezza, consentendo di mettere in quarantena gli agenti in millisecondi.
Caratteristiche della piattaforma
La piattaforma NVIDIA Open Agent Safety offre governance full-stack, controllo del runtime e monitoraggio continuo per proteggere gli agenti IA aziendali dai test alla distribuzione. La piattaforma è ottimizzata per l'esecuzione su CPU NVIDIA Verae sistemi basati su DPUNVIDIA BlueFielded ed è compatibile anche con altri sistemi hardware.
Strumenti di governance
NVIDIA OpenShell è un runtime open source che fornisce strumenti di governance per applicare ciò che un agente può vedere, fare e con cui interagire. La piattaforma supporta agenti come Claude Code, Codex, OpenCode, GitHub Copilot CLI e OpenClaw, e consente l'utilizzo di agenti personalizzati e immagini sandbox.
OpenShell applica la policy al di fuori del processo degli agenti, mentre NVIDIA Sentry con NVIDIA BlueField-4 aggiunge un livello di sicurezza indipendente al di fuori del software per agenti e host. La piattaforma fornisce un livello di policy di runtime comune per i flussi di lavoro degli agenti e supporta la raccolta centralizzata dei log della sandbox.
Benefici della piattaforma
La piattaforma NVIDIA Open Agent Safety offre numerosi benefici, tra cui:
- Governance full-stack per proteggere gli agenti IA aziendali
- Controllo del runtime per limitare la diffusione degli errori
- Monitoraggio continuo per rilevare le minacce man mano che emergono
- Supporto per agenti personalizzati e immagini sandbox
- Compatibilità con altri sistemi hardware
La piattaforma è progettata per aiutare i team a mantenere gli agenti IA isolati, osservabili e governati mentre intraprendono lavori più complessi. La combinazione di governance del runtime, rilevamento continuo delle minacce e applicazione delle policy isolate dall'hardware consente di mantenere gli agenti IA contenuti, osservabili e verificabili.
Integrazione con altri sistemi
La piattaforma NVIDIA Open Agent Safety è compatibile con altri sistemi hardware e software, tra cui Kubernetes e sistemi basati su DPUNVIDIA BlueFielded. La piattaforma può essere eseguita sull'infrastruttura locale, on-premise, cloud e Kubernetes supportata senza BlueField-4.
Sui sistemi con BlueField-4, Sentry aggiunge il monitoraggio e l'applicazione isolati dall'hardware che rimangono operativi se l'host o il carico di lavoro è compromesso. La piattaforma fornisce un audit trail delle decisioni di autorizzazione e negazione e supporta la raccolta centralizzata dei log della sandbox.
Conclusioni
La piattaforma NVIDIA Open Agent Safety è un design di riferimento aperto che monitora e governa continuamente il comportamento degli agenti IA, garantendo che seguano le regole. La piattaforma offre governance full-stack, controllo del runtime e monitoraggio continuo per proteggere gli agenti IA aziendali dai test alla distribuzione.
Gli sviluppatori possono utilizzare strumenti come NVIDIA OpenShell e NVIDIA Sentry per applicare policy di sicurezza e limitare la diffusione degli errori. La piattaforma è compatibile con altri sistemi hardware e software e può essere eseguita sull'infrastruttura locale, on-premise, cloud e Kubernetes supportata.