FlashProve di Anthropic: prova crittografica dell’origine delle risposte IA

Cos’è FlashProve e perché è necessario

Nel panorama attuale, chi invia una richiesta a un modello di intelligenza artificiale non può verificare se la risposta provenga effettivamente dal modello scelto. Un servizio di routing potrebbe sostituire il modello più costoso con uno più economico, o un attaccante potrebbe manipolare il flusso di dati. Anthropic propone FlashProve, un prototipo di ricerca open‑source che intende risolvere questo problema mediante prove crittografiche.

Il meccanismo alla base è lo zkSNARK (zero‑knowledge Succinct Non‑Interactive Argument of Knowledge). In termini semplici, il fornitore del modello genera un “impronta digitale” dei pesi del modello. Ogni volta che il modello produce una risposta, accompagna il risultato con un breve proof che dimostra che è proprio quel modello a aver generato il testo, senza rivelare i pesi segreti.

Prestazioni tecniche di FlashProve

Secondo il rapporto tecnico pubblicato da Anthropic, FlashProve è in grado di creare prove per circa 110 token al secondo utilizzando una singola GPU H100. Il test è stato condotto su Meta Llama 4 Maverick, un modello da 400 miliardi di parametri. Ogni prova occupa circa 19 megabyte e può essere verificata su una CPU standard in 17 secondi, richiedendo un overhead di 70‑95 volte rispetto all’inferenza tradizionale.

Questi numeri rappresentano un miglioramento significativo rispetto al precedente sistema open‑source, che impiegava più di 14 ore per generare prove su 1.000 token, producendo file di 93,6 gigabyte la cui verifica richiedeva quasi un giorno intero.

Confronto con soluzioni precedenti

• Velocità di generazione: 110 token/s vs. 0,07 token/s
• Dimensione della prova: 19 MB vs. 93,6 GB
• Tempo di verifica: 17 s vs. ~24 h

Implicazioni per la regolamentazione dell’IA

Anthropic individua diversi casi d’uso per FlashProve:

• Le autorità di regolamentazione potrebbero verificare che i fornitori utilizzino solo modelli autorizzati.
• Le aziende potrebbero dimostrare che il loro codice è stato controllato da un modello di sicurezza specifico.
• I fornitori di servizi potrebbero rilevare manipolazioni dei server, ad esempio l’inserimento di un modello più avanzato da parte di un attaccante.

Questa capacità di “verifica dell’inferenza” è in linea con la Frontier Safety Roadmap di Anthropic, che prevedeva lo sviluppo di un prototipo entro settembre 2026. Un progetto parallelo ha già realizzato la firma del traffico di inferenza su server fidati; FlashProve, invece, si basa esclusivamente su crittografia, eliminando la necessità di hardware affidabile.

Limiti attuali del prototipo

Anthropic sottolinea che FlashProve è ancora un prototipo di ricerca con restrizioni importanti:

• Supporta contesti fino a 1.024 token, molto al di sotto delle finestre di contesto tipiche dei modelli moderni.
• Nasconde i pesi del modello ma non la sua architettura, quindi non garantisce l’anonimato completo.
• Funziona solo quando il modello sceglie in maniera deterministica il token più probabile; non è valido per risposte generate con campionamento casuale, comune nei chatbot.

Il codice, le prove Lean e la documentazione sono rilasciati su GitHub con licenza Apache‑2.0, consentendo a ricercatori e sviluppatori di contribuire al miglioramento del sistema.

Prospettive future e conclusioni

FlashProve rappresenta un passo avanti cruciale verso una maggiore trasparenza e responsabilità nell’utilizzo dell’intelligenza artificiale. Sebbene le attuali limitazioni impediscano ancora un’adozione su larga scala, la riduzione drastica dei tempi di generazione e verifica delle prove apre la porta a soluzioni più pratiche per la verifica dell’origine delle risposte.

Il futuro potrebbe vedere l’estensione del supporto a contesti più ampi, l’integrazione di modelli non deterministici e l’ottimizzazione delle dimensioni delle prove. Fino a quel momento, FlashProve rimane uno strumento di ricerca prezioso per chiunque voglia esplorare metodi crittografici al servizio della governance dell’IA.