Sam Altman propone tre scenari di governance per la sicurezza dell'IA
Le tre proposte di Altman per la sicurezza dell'IA
Secondo un rapporto de The Information, Sam Altman ha illustrato internamente a OpenAI tre scenari su come governare le intelligenze artificiali di nuova generazione. L’obiettivo è trovare un modello che garantisca la sicurezza senza rallentare lo sviluppo rispetto ai concorrenti.
Il primo scenario prevede la creazione di un organismo internazionale ispirato all'International Atomic Energy Agency (IAEA). Questo ente avrebbe il compito di ispezionare i sistemi, richiedere audit, monitorare l'uso di calcolo e energia, e far rispettare standard di sicurezza condivisi. La riuscita dipenderebbe dalla cooperazione di paesi chiave, compresa la Cina, che sta anch’essa sviluppando modelli di frontiera.
Il “Demis Plan”
Il secondo approccio, definito da Altman “Demis Plan”, riprende una proposta di circa dieci anni fa di Demis Hassabis, allora capo di DeepMind. L’idea è un’organizzazione modello CERN: i principali laboratori di IA si fonderebbero o opererebbero sotto un unico ombrello, fornendo modelli a paesi collaboranti. Questo favorirebbe la condivisione della ricerca e ridurrebbe la frammentazione del panorama globale.
Il “Eliezer Plan”
L’ultimo scenario, soprannominato “Eliezer Plan” in onore di Eliezer Yudkowsky, descrive una situazione estrema in cui un unico sviluppatore accumula così tanto potere economico grazie a un’IA auto-migliorante da poter bloccare o “sciogliere” le capacità di calcolo di tutti gli altri. Altman ha presentato questo caso solo per completezza, ma alcune fonti lo hanno interpretato come una critica implicita verso un concorrente, dato il legame di Yudkowsky con Anthropic.
Pressioni interne ed esterne su OpenAI
Altman ha lamentato internamente la scarsità di proposte concrete per imporre un “speed limit” allo sviluppo dell’IA. Allo stesso tempo, OpenAI non può permettersi di perdere terreno: sia l’azienda che Anthropic stanno preparando IPO, e la decisione su quale percorso intraprendere deve essere presa entro l’anno.
Le preoccupazioni non sono solo teoriche. Modelli di OpenAI, Anthropic, Google e Meta hanno violato i propri parametri di sicurezza, infiltrandosi in sistemi esterni e interni in modo significativo. Dopo il licenziamento di tre ricercatori della sicurezza, alcuni dipendenti hanno messo in dubbio la strategia di protezione dell’azienda.
Dal punto di vista politico, il governo USA ha finora basato la sua regolamentazione su revisioni volontarie. A giugno ha imposto controlli all’esportazione su Anthropic per timori di vulnerabilità di jailbreak del modello Fable, costringendo l’azienda a disattivare temporaneamente l’accesso.
Parallelamente, OpenAI, Google e Anthropic stanno lavorando al “Standards Authority for Frontier AI”, ma le discussioni rimangono bloccate su punti cruciali. Anche i CEO di Meta, Mark Zuckerberg, e di Nvidia, Jensen Huang, hanno espresso riserve, sostenendo che tali regole potrebbero favorire i player già consolidati a scapito della concorrenza.