ChatGPT presenta Lockdown Mode per proteggere i dati sensibili dagli attacchi di iniezione dei prompt

OpenAI ha rilasciato una nuova funzione chiamata "Lockdown Mode" per ChatGPT. Questa modalità permette agli utenti di disattivare funzioni come l’accesso web, la ricerca approfondita e la modalità agente al fine di proteggersi meglio dal furto di dati sensibili attraverso gli attacchi di iniezione di prompt.

Lockdown Mode e sicurezza dei dati sensibili

La funzione disattiva ogni connessione a Internet e a servizi esterni. Questo rende impossibile per i dati sensibili essere esfiltrati durante una conversazione con l’intelligenza artificiale. L’obiettivo principale è quello di proteggere gli utenti che gestiscono informazioni riservate.

Gli utenti possono attivare la Lockdown Mode tramite le impostazioni di sicurezza di ChatGPT. In alcuni casi, per completare un’attività specifica, potranno disattivare temporaneamente questa funzione per consentire all’AI accesso a una gamma più ampia di strumenti.

Limiti delle funzionalità in Lockdown Mode

Nella Lockdown Mode, la ricerca in tempo reale è limitata ai contenuti memorizzati in cache. Questo significa che i risultati forniti potrebbero non essere aggiornati o potrebbero non essere visualizzabili affatto. La ricerca approfondita e la modalità agente sono completamente disattivate.

La funzione impedisce a ChatGPT di scaricare file, mostrare immagini di rete e generare codice per il sistema Canvas. La protezione si estende ai casi in cui un prompt malevolo potrebbe manipolare l’AI, ma non blocca completamente le iniezioni, che vengono definite da OpenAI un problema aperto e complesso da risolvere.

Gli studi sull’iniezione dei prompt

OpenAI afferma che il problema dell’iniezione non è stato completamente risolto. Gli esperti sottolineano che questa vulnerabilità è nota da molto tempo, fin dalla versione GPT-3, e continua ad essere sfruttata dagli attaccanti. Sono ormai anni che questa debolezza del modello non ha una soluzione definitiva.

La Lockdown Mode rappresenta una misura mitigativa. Si basa su tecnologie esistenti, come i sandbox, la protezione basata sugli URL e i controlli di accesso. Tuttavia, indica OpenAI, un istruzione manipolata nascosta in un documento caricato potrebbe comunque influenzare il comportamento del modello, portandolo a generare risposte errate.

Modalità Lockdown in ambiente di lavoro

I conti personali e gestiti autonomamente possono abilitare la Lockdown Mode accedendo a “Impostazioni > Sicurezza”. Nei workspace gestiti, gli amministratori sistemistici possono attivare questa funzione specificando le autorizzazioni di ruolo per gli utenti singoli o i gruppi.

Gli utenti possono inoltre disattivare la Lockdown Mode singolarmente per una specifica conversazione, quando necessario. La Lockdown Mode e la Developer Mode non possono essere entrambe abilitate contemporaneamente.

In ambienti commerciali

Che si tratti di aziende, organizzazioni o gruppi di lavoro, gli amministratori devono valutare attentamente le app e i plugin terzi. OpenAI raccomanda di abilitare solo quelle che sono verificate e testate per ridurre il rischio di furto di informazioni.

Avvertenze

• OpenAI precisa, nella sua FAQ relativa, che l’iniezione non è un rischio diffuso al momento.
• Questo non esclude però che possa crescere di intensità con l’aumentare della sofisticazione delle minacce.
• La Lockdown Mode non garantisce una protezione assoluta.

Gli utenti sono invitati a considerare con attenzione cosa collegare a ChatGPT. L’uso di dati finanziari personali o di lavoro, ad esempio, va avanti sempre con un’analisi delle potenziali minacce.