Supporto all'impegno europeo per un ecosistema AI affidabile

Le persone stanno utilizzando l'IA per realizzare e modificare contenuti in nuovi modi. Mentre queste attrezzature diventano sempre più potenti e ampiamente utilizzate, le persone dovrebbero disporre di contesto per capire i contenuti che visualizzano online.

Oggi, OpenAI annuncia il proprio supporto al pubblicato dal Commissario Europeo Codice di Prassi sulla Trasparenza dei Contenuti Generati dall'IA. Il Codice rappresenta un passo importante verso l’implementazione del Regolamento UE sull'IA e la costruzione di un ecosistema digitale più trasparente. Questo annuncio rappresenta l’impegno di OpenAI nel riconoscere e sostenere l’ambizione di tale Codice, che mira a garantire un utilizzo responsabile e trasparente dell’intelligenza artificiale.

I nostri sforzi si basano su anni di ricerca interna, di sviluppo produttivo e di collaborazione con una vasta comunità per migliorare la tracciabilità di contenuti generati tramite l’IA. OpenAI ha iniziato a sviluppare e adottare standard per il tracciamento nel 2024, quando abbiamo iniziato ad aggiungere il formato C2PA ai nostri strumenti di generazione delle immagini DALL-E 3. Da allora, abbiamo continuato ad aumentare il tracciamento utilizzando miglioramenti nella marcatura, nuove ricerche e la pubblicazione del nostro primo strumento di verifica. A sostegno di queste tecnologie, abbiamo contribuito all’elaborazione di questo Codice insieme a centinaia di stakeholder.

Questo rafforza il nostro approccio più ampio alla governance dell’AI in Europa. Nel 2025, OpenAI è stata la prima azienda statunitense ad accettare il Codice di Prassi Europeo sull'IA Generale di Scopo, sostenendo il nostro credo che normative chiare e applicabili possano guidare lo sviluppo responsabile dell'IA, garantendo però alle aziende la chiarezza necessaria per operare. In linea con questa convinzione, sosteniamo anche il nuovo Codice, riconoscendo che la trasparenza del contenuto generato dall’IA richiede un impegno collettivo di tutti gli agenti coinvolti. Il Regolamento sull'IA dell'UE insieme a questo Codice riconoscono questa realtà e siamo determinati a fare la nostra parte rispettando le norme applicabili ai nostri prodotti.

Perché la tracciabilità è così importante

Mentre gli strumenti di AI diventano parte integrante del modo in cui le persone creano, sognano e condividono, è fondamentale che le persone capiscano chiaramente le origini e il contesto di ogni contenuto. La tracciabilità permette di dare spiegazioni sull’origine e la natura del contenuto, confermando la sua genuinità. Aiuta a proteggere l’ecosistema digitale migliorando la capacità di individuare campagne di disinformazione e assicurando l'integrità elettorale.

I metodi di tracciabilità efficaci, affidabili e robusti devono essere costruiti collettivamente ed operare attraverso l’intero ecosistema. Per questo motivo, ci impegniamo con iniziative come quella del C2PA, che coinvolgono testate giornalistiche, produttori di dispositivi, piattaforme online e fornitori di AI per avanzare standard interoperabili. I segnali C2PA sono una fondamenta essenziale per la tracciabilità, fornendo informazioni sull'origine, il processo creativo e chi abbia prodotto il contenuto. Tuttavia, questi metadati non sono infallibili: possono essere rimosso, persi durante il trasferimento o danneggiati da modificazioni come il formato del file o le schermate.

Metodologia multi-piani di OpenAI per la tracciabilità

Per rendere la tracciabilità più resistente, OpenAI adotta un approccio multi-piani, integrando segnali diversi, protezioni produttive e collaborazione all'interno dell’ecosistema. Il nostro lavoro attuale comprende:

• C2PA Content Credentials per immagini: Abbiamo iniziato ad aggiungere C2PA metadati alle immagini create e modificate da DALL-E 3 tramite ChatGPT e l'API OpenAI, proponendo estensioni di tracciabilità per immagini generate dall'IA OpenAI.
• Segnali multipli per immagini OpenAI: Le immagini prodotte con ChatGPT, Codex e l'API OpenAI includono sia C2PA metadati che SynthID watermark. Questi metadati forniscono informazioni ricche, mentre l’uso della watermarkage aiuta il segnale a rimanere anche in diversi contesti.
• Esperienza di verifica pubblica: Il sito openai.com/verify permette a tutti di verificare se un’immagine supportata include tracce associate a contenuti generati da OpenAI.
• Contributi agli standard aperti: Nel 2024, OpenAI ha aderito al Comitato di Indirizzo C2PA, un’iniziativa interindustriale che coinvolge aziende software, produttori di camere, organizzazioni media e piattaforme online.
• Misure di sicurezza produttive: La tracciabilità affianca politiche, classificatori, canali di segnalazione e procedure di attuazione che riducono l’uso ingannevole dei contenuti AI generati, tra cui il rischio di somiglianza indebita e frodi elettorali.

Rendere pratica la trasparenza del contenuto

Sebbene la tracciabilità abbia già una posizione significativa, è una disciplina relativamente giovane. Mentre i segnali possono essere persi durante la trasmissione in rete, i metadati possono essere rimosso, le watermark possono degradarsi e le etichette sono utili solo se viste. Il progresso nella affidabilità, robustezza e interoperabilità delle tecniche di tracciabilità richiede ancora un notevole impegno e collaborazione da parte della comunità.

Il Codice di Prassi guida la giusta direzione, con un’ambizione elevata per promuovere le tecniche di tracciabilità. Nel suo sviluppo, deve basarsi su metodi funzionali nella realtà e flessibili per rispettare le attuali limitazioni. OpenAI continuerà a migliorare la trasparenza dei contenuti attraverso i nostri prodotti, a contribuire allo sviluppo di standard interoperabili e a migliorare gli strumenti per la verifica. Aspettiamo con interesse