Come Block usa l'AI di OpenAI per una sicurezza potenziata

Introduzione alla strategia di sicurezza basata su AI

Il team di sicurezza di Block ha adottato un approccio responsabile all’uso dell’intelligenza artificiale in tutti i flussi di lavoro, dalla generazione di codice alle operazioni di difesa. Come spiega James Nettesheim, Chief Information Security Officer di Block, “l’AI comprime il tempo dall’intento umano all’azione”. In passato si pensava che gli attaccanti avessero un vantaggio perché più rapidi e agili; oggi, grazie a strumenti come OpenAI Daybreak, i difensori possono “combattere il fuoco con il fuoco” e tenere il passo con la rapida adozione dell’AI.

Il concetto chiave è considerare l’AI come un nuovo “compagno di squadra” scalabile, non come una semplice automazione sequenziale. Nettesheim sottolinea che è possibile porre al modello problemi ambigui e personalizzati, lavorando insieme per ottenere soluzioni, mentre un approccio tradizionale richiederebbe passaggi predefiniti e poco flessibili.

Progetti chiave e miglioramenti operativi

Attività che prima richiedevano giorni o settimane, come la revisione di bug software o l’analisi di log, ora vengono completate in una frazione del tempo, con un umano che valida ogni risultato. Un esempio concreto è la “tuning” delle rilevazioni: ogni indagine conserva le prove grezze della query, consentendo al team di riprodurre una modifica di rilevazione su sette mesi di telemetria di produzione in meno di un’ora. In passato, questo richiedeva la riscrittura manuale di centinaia di casi e raramente veniva effettuato a causa dell’onere di tempo.

Il team ha inoltre affinato la scelta dei modelli per ciascun compito. “Prima usavamo sempre l’ultimo modello, ma ora scegliamo quello più adatto al lavoro specifico”, afferma Nettesheim. La “security harness” di Block, costruita sopra Daybreak, smista i compiti verso il modello più idoneo e include meccanismi per il passaggio a revisori umani o per la verifica incrociata tra agenti. Il sistema è continuamente valutato con benchmark interni e prestazioni reali, e si adatta reindirizzando i casi a revisori umani quando necessario.

Impatto sulla produttività

Il sistema di triage automatizzato ha portato a un aumento del 50 % della capacità di triage e a un incremento del 50 % nella raccolta di intelligence e nelle indagini. Inoltre, Block ha introdotto una capacità di “hunting” autonoma. Nettesheim stima che il sistema gestisca circa 1 100 ore‑analista di investigazione per trimestre, poiché ogni avviso riceve una ricerca approfondita come se fosse l’unico alert del giorno.

L’OpenAI Defense Factory in azione

Gli strumenti tradizionali di scansione segnalano vulnerabilità isolate, mentre Daybreak permette di ipotizzare pattern di attacco e concatenare più fasi in un percorso di compromissione end‑to‑end, rivelando vulnerabilità nascoste da anni. In un caso, un avviso su un singolo laptop sembrava un problema di policy minore; durante la revisione, il modello ha collegato un indicatore incidentale ai log di identità di Block, svelando una serie più ampia di problemi. “Un avviso di endpoint di routine è diventato un takedown di campagna. Nessuno strumento singolo riesce a fare quel collegamento”, commenta Nettesheim.

Un altro esempio riguarda un recente esercizio di red‑team: fornendo al modello pochi indizi su un sistema interno, Daybreak ha costruito in circa due ore un intero percorso di attacco (SQL injection, escalation di privilegi, foothold, enumerazione credenziali e pivot verso altri sistemi). Un red‑teamer umano impiegherebbe diversi giorni. In esercizi recenti, il tempo dalla segnalazione di una vulnerabilità ad alta livello a una patch proposta automatica è stato di sole 18 minuti.

Processo di rimedio e ruolo umano

Identificare le vulnerabilità è solo metà del lavoro: occorre correggerle. Nettesheim descrive il flusso seguito dal suo team per ogni scoperta: individuare il punto di codice interessato, identificare il proprietario, proporre una patch, confermare l’exploitabilità e verificare la correzione, sempre con un operatore umano che guida, verifica e distribuisce le modifiche. Gli agenti AI, per quanto capaci, non possiedono il contesto organizzativo né il ragionamento dietro decisioni precedenti; il fattore umano fornisce strategia e contesto, creando un livello di revisione indispensabile. Con il tempo, Nettesheim prevede di aumentare gradualmente il livello di rischio affidato all’AI per sistemi più sensibili.

Risultati concreti

• meno di un’ora per riprodurre una modifica di rilevazione su sette mesi di telemetria;
• 18 minuti dalla segnalazione di una vulnerabilità ad alta livello a una patch automatica in esercizi di red‑team;
• circa 600 ore‑analista per trimestre recuperate dal triage di falsi positivi;
• circa 1 100 ore‑analista di investigazione completate per trimestre;
• aumento del 50 % del throughput di triage;
• aumento del 50 % nella raccolta di intelligence e nelle indagini.

Prospettive future

Il lavoro di rilevamento e risposta ha restituito circa 600 ore‑analista per trimestre, tempo ora impiegato in indagini più profonde e nello sviluppo responsabile di ulteriori automazioni. Con l’aumento della velocità degli attacchi e il continuo progresso dei modelli AI, Nettesheim vede un’opportunità per ridurre il numero di vulnerabilità introdotte fin dall’inizio, liberando i team di sicurezza da attività di patching per concentrarsi su lavori preventivi e strategici.

“OpenAI sta spostando il vantaggio verso i difensori, mettendo capacità avanzate nelle mani di tutti”, conclude Nettesheim. “Fino a poco tempo fa, queste tecnologie erano disponibili solo a grandi aziende tecnologiche e governi. Oggi infrastrutture critiche, scuole e piccole imprese possono utilizzare l’AI per difendere le proprie reti.”