L’AI non compromette la sicurezza. La complessità sì

La storia dell’adottabilità della sicurezza aziendale spesso si è dimostrata un insegnamento su come resa di più difficile l’esperienza utente. Una minaccia emergente, un controllo aggiuntivo, e spesso le persone iniziavano a bypassare i sistemi creati per proteggerle.

Adottare la sicurezza non dipende sempre dall’interesse

La ragione principale per cui si abbandona un percorso sicuro non è per disinteresse o negligenza, ma perché quel percorso sembra più difficile rispetto a uno meno protetto. Negli anni, ho visto personalmente come l’adozione di procedure di sicurezza non fallisce a causa di mancanza di importanza da parte delle persone, ma piuttosto per l’imponenza di complessità che essa comporta.

Nell’epoca dell’IA, questa lezione è più che mai attuale. La complessità introduce più rischi. L’aggiunta di controlli di sicurezza che richiedono sforzo o comodità inutili spesso finisce per essere ignorata. Le persone trovano soluzioni alternative, e il risultato spesso non è sicuro.

La sicurezza funziona meglio quando si mantiene in background

Quando la sicurezza è facile da usare e integrata fluidamente nel workflow degli utenti, essa viene adottata naturalmente. Si pensi al momento in cui si mise in largo circolazione l’autenticazione a due fattori: il problema principale non era crearlo, ma bensì l’inconveniente che esso richiedeva. Usarlo significava interrompere il lavoro, prendere il telefono, installare una app, e inserire codici appena per accedere.

L’aumento delle adozioni non fu spinto da politiche o addestramenti, ma da semplicità. Quando divenne facile utilizzare un semplice scansione del volto o una lettura fingerprint, le persone adottarono questi sistemi senza esitazioni.

Un esempio simile si ha nei browser moderni. Piuttosto che esigere dagli utenti un controllo manuale sull’URL, i browser ora segnalano immediatamente come insicure quelle non protette da HTTPS. Non aspettando che l’utente faccia l’azione corretta, il sistema guida verso un comportamento sicuro per default.

Il rischio della complessità nell’IA

Nel contesto degli agenti dell’AI, il problema si verifica spesso con i permessi. Spesso, un individuo accumula accessi multipli attraverso progetti e ruoli diversi, e non tutti vengono puliti quando i ruoli o l’organizzazione cambiano.

Gli agenti non possiedono questa comprensione. Un agente, assegnato a risolvere un problema, potrebbe esaminare ogni possibile percorso. Se può accedere a 12 sistemi ma il lavoro richiede solo 2, è probabile che li esplori comunque tutti. Anziché essere una forza, questa curiosità diventa un percorso d’attacco esteso, anche se non rilevante.

Che cosa succede quando si aggiunge l'approvazione umana?

• La logica iniziale è richiedere un’approvazione umana su azioni significative.
• Tuttavia, spesso tali richieste arrivano senza contesto sufficiente, rendendo difficile per l’utente giudicare se l’azione proposta sia appropriata.
• Quindi l’utente approverà in automatico per non interrompere il workflow.
• A lungo termine, questa pratica crea solo ulteriore attrito e una sensazione di controllabilità non realistica.

La soluzione reale sta in modelli di permessi fondati sull’intento specifico. Gli agenti dovrebbero possedere credenziali soltanto per i compiti specifici e quelle dovranno scadere una volta completato il lavoro. Il settore sta già avanzando verso modelli migliori. Standard come OAuth evolvono per supportare agenti IA, permettendo a questi ultimi di rappresentare identità scorporate su compiti specifici, piuttosto che l’intero set delle autorizzazioni utente.

Rendere semplice la sicurezza dell’IA

Verso l’idea di semplificazione inizia dalla visibilità. La priorità iniziale riguarda la conoscenza precisa del comportamento effettivo: dove i vostri agenti si connettono, che dati manipolano, e che autorizzazioni esercitano?

• Più del 80% di aziende ha un livello di controllo decente.
• Ma è quel restante 20% che spesso nasconde i veri rischi.
• L’AI, però, identifica questi buchi molto più velocemente rispetto all’uomo.
• Iniziare con il monitoraggio, anche se non è il momento per adottare controlli stringenti, aiuta a mappare correttamente le lacune.
• Usate l’AI per filtrare e priorizzare i comportamenti a alto rischio. Poi risolvete progressivamente.

La gestione dell’identità

Rivolgetevi alla gestione dell’identità basata sul workload (lavoro). Il vecchio modello, con creazione di account di lavoro, download di chiavi, e distribuzione nel sistema, è vulnerabile e difficile da tracciare.

Contro, gli ambienti moderni delle piattaforme basate su cloud offrono un modello migliore: l’identità del workload viene stabilita in fase di distribuzione, e mai fornita come chiavi statiche. Il rischio di accesso indebito si riduce, il carico per la gestione delle autorizzazioni diminuisce.

I limiti di accesso per gli agenti

• Evitate di fornire grandi poteri iniziali agli agenti, assumendo che un approvazione umana possa prevenire eventuali problemi.
• Rendete l’accesso limitato e specifico per il compito che devono svolgere.
• Se il lavoro è finito, le autorizzazioni devono scadere.
• Per i gruppi che gestiscono molteplici connessioni di agenti, i gateways MCP stanno emergendo come una pratica per stabilire governance centralizzata delle regole.
• Riservate l’intervento umano a quelle azioni che possono influire davvero nel sistema, evitando di coinvolgerlo in ogni passo meccanico.

L’accelerazione dei rischi

Nell’era dell’AI, il tempo tra l’esposizione di un rischio e l’effettiva sfruttamento sta scomparendo rapidamente. Il rapido aumento del tempo medio di sfruttamento da parte degli aggressori si riduce drasticamente, passando da giorni a ore, e in alcuni casi addirittura a minuti.

L’ultimo rapporto globale di CrowdStrike del 2026 segnala un aumento del 65% anno su anno in questo senso. La capacità dell’intelligenza artificiale nell’identificare autonomamente le vulnerabilità spinge team di sicurezza a cadere indietro, se continuano a dipendere da risposte manuali o poco scalabili.

L’unica risposta veramente efficace, tuttavia, non è cambiata: la complessità crea attriti che vengono ignorati. I sistemi di sicurezza integrati all’architettura, impostati per default, invisibili e automatici, sono gli unici ad assicurare protezione reale.

L’AI non rompe