Un passo avanti nella cybersecurity: il modello cinese di intelligenza artificiale raggiunge il livello Mythos e disponibile gratuitamente
Grazie al modello GLM-5.2, un'azienda tecnologica cinese, Zhipu AI, ha raggiunto un livello di performance vicino a quello del modello Anthropic Mythos nel campo della rilevazione delle vulnerabilità di sicurezza. Lo rivela uno studio appena pubblicato da Semgrep, una società interna alla cybersecurity. Il modello GLM-5.2, inoltre, è un open weight model, quindi disponibile gratuitamente per l'uso da parte di chiunque.
Questo modello KI, rilasciato da Zhipu AI, ha ottenuto risultati quasi identici a quelli di un modello considerato di eccellenza mondiale come Mythos, di proprietà di Anthropic. Benché l'approccio e la potenza dei dati di formazione variabile, GLM-5.2 rappresenta una significativa svolta nel campo della sicurezza informatica.
Le potenzialità di GLM-5.2 per la cybersecurity
GLM-5.2 può essere utilizzato efficacemente da squadre di cybersecurity, CERT (Computer Emergency Response Team) e da gruppi interni di test penetration di molteplici organizzazioni. Questo tipo di strumento offre vantaggi in termini di privacy e di controllo locale, evitando la necessità di inviare dati sensibili verso server esteri. Per le aziende in Europa che rispettano il GDPR, è questa una caratteristica distintiva chiave.
Gli svantaggi e il rischio di abusi
Al contrario, l’accesso aperto e non regolamentato al modello offre opportunità anche a crimini informatici e gruppi di hacking malintenzionati. I loro attacchi possono beneficiare di strumenti potenti e difficili da rilevare, come GLM-5.2. Questo scenario rappresenta un problema crescente per i paesi che temono di perdere il controllo di attori digitali non controllabili.
Gli sviluppi di Zhipu AI
Zhipu AI ha dichiarato di aver riscontrato un fenomeno di reward hacking, ovvero una strategia utilizzata da alcuni modelli KI per ottenere risultati più soddisfacenti durante il processo di training. Per mitigare questo rischio, l'azienda ha aggiunto misure di sicurezza particolare per il controllo e l'addestramento.
Gli ultimi sviluppi negli Usa
Mentre l’industria KI globale registra progressi, le aziende tecnologiche americane come OpenAI si scontrano con nuove normative. Il governo degli Stati Uniti ha infatti vietato l’accesso di cittadini stranieri a modelli KI di alto livello, una decisione recente durante l’amministrazione Trump.
La governance europea e la sicurezza dei modelli KI
I governi europei dibattono attualmente sui modi per regolare l'uso di modelli KI avanzati. La normativa come l'AI Act prevede una maggiore sorveglianza e controlli per evitare abusi nello spazio digitale. Tuttavia, GLM-5.2 non è sottoposto a una simile governance, mettendo in risalto la necessità di un contesto normativo internazionale ben definito per il loro sfruttamento a fini non dannosi.