OpenAI aumenta i premi per la scoperta delle vulnerabilità in ChatGPT e altri prodotti

Nuove soglie economiche per il programma Security Bug Bounty

OpenAI ha annunciato un significativo aumento dei premi destinati ai ricercatori che individuano vulnerabilità nei suoi prodotti, tra cui ChatGPT, Codex e altre soluzioni basate su intelligenza artificiale. Il programma Security Bug Bounty prevede ora ricompense che possono arrivare fino a 172.000 dollari, a seconda della gravità della falla e di una serie di moltiplicatori.

In passato, le somme offerte erano considerate modeste rispetto a quelle di concorrenti del settore. Un caso emblematico è quello di un team di Parameter Labs, che aveva ricevuto solo 5.000 dollari per una vulnerabilità che permetteva di leggere le chat private degli utenti. Con il nuovo modello di premi, la stessa tipologia di vulnerabilità eccezionale può essere ricompensata con un massimo di 100.000 dollari, a cui si aggiungono bonus che possono far superare i 170.000 dollari.

Come vengono calcolati i premi

Il compenso di base è determinato dalla gravità della vulnerabilità, classificata in quattro categorie: media, alta, critica ed eccezionale. A questa base si applicano tre tipi di bonus moltiplicatori:

• Qualità della segnalazione: se il report è dettagliato, ben documentato e contiene prove riproducibili, il moltiplicatore è pari a 1,15.
• Fedeltà: i ricercatori che partecipano al programma da più tempo o che hanno dimostrato affidabilità in precedenti segnalazioni ottengono un ulteriore moltiplicatore, ad esempio 1,10 per i partecipanti “eleet” (livello 31337).
• Priorità: le vulnerabilità che colpiscono funzionalità recentemente rilasciate ricevono un bonus aggiuntivo, tipicamente 1,30.

Applicando questi fattori, una vulnerabilità eccezionale che consente di leggere i messaggi degli utenti, con tutti i bonus attivi, porta il compenso finale a 171.925 dollari.

Retroattività e pagamento delle differenze

OpenAI ha dichiarato che i nuovi premi saranno retroattivi. Se un report è stato già inviato o premiato nei 30 giorni precedenti l’annuncio, la società applicherà il nuovo schema di pagamento e verserà la differenza al ricercatore. Questa decisione mira a incentivare la segnalazione tempestiva e a riconoscere il valore delle scoperte già effettuate.

Il meccanismo retroattivo è stato introdotto per evitare che i ricercatori si sentano penalizzati per aver collaborato in buona fede prima dell’aggiornamento dei premi, garantendo al contempo una continuità nella partnership tra OpenAI e la community di sicurezza.

Collaborazione con Cathedral Systems

Parallelamente all’aumento dei premi, OpenAI ha avviato una partnership strategica con Cathedral Systems, una startup specializzata nella valutazione della sicurezza delle piattaforme AI. I ricercatori di Cathedral utilizzeranno i modelli di OpenAI per testare le difese interne, individuare debolezze nascoste e proporre miglioramenti concreti.

Questa collaborazione nasce in risposta a recenti vulnerabilità scoperte nel sistema di monitoraggio dei modelli AI, che hanno evidenziato la necessità di un approccio più proattivo nella gestione delle minacce. L’obiettivo è creare un ciclo di feedback continuo, in cui le scoperte di Cathedral vengano integrate rapidamente nei processi di sviluppo di OpenAI.

Impatto sul panorama della sicurezza AI

L’aumento dei premi posiziona OpenAI tra le aziende più generose nel settore della sicurezza informatica, avvicinandosi a giganti come Google e Microsoft, che offrono ricompense simili per vulnerabilità critiche. Questo passo è anche un segnale forte per la comunità di ricerca: la sicurezza delle IA è una priorità strategica e richiede risorse adeguate.

Inoltre, il modello di bonus introdotto da OpenAI incentiva non solo la scoperta di bug, ma anche la produzione di report di alta qualità. Tale approccio riduce il tempo necessario per la correzione, poiché gli ingegneri ricevono informazioni chiare e replicabili, accelerando il ciclo di patch.

Il potenziamento del programma di bounty, combinato con la partnership con Cathedral Systems, potrebbe portare a una riduzione significativa delle vulnerabilità non rilevate, migliorando la fiducia degli utenti finali nei prodotti AI di OpenAI.

Prospettive future e consigli per i ricercatori

Per i ricercatori interessati a partecipare, OpenAI consiglia di focalizzarsi su:

• Analisi delle nuove funzionalità rilasciate, poiché queste hanno un moltiplicatore di priorità più alto.
• Produzione di report dettagliati, includendo steps di riproduzione, log di sistema e suggerimenti di mitigazione.
• Mantenimento di una buona reputazione all’interno del programma, partecipando regolarmente e rispettando le linee guida di disclosure.

Seguendo queste linee guida, i partecipanti possono massimizzare le proprie ricompense e contribuire attivamente a rendere più sicuri i prodotti AI più diffusi al mondo.