ChatGPT e oltre: analisi e prospettive dell'intelligenza artificiale

L'intelligenza artificiale (IA), in particolare dopo il lancio di ChatGPT, è diventata un tema centrale nel dibattito pubblico e politico. Il presente rapporto del Senato francese offre un'analisi approfondita delle sue tecnologie, delle implicazioni e delle sfide di governance, delineando un quadro completo per comprendere il fenomeno e le sue evoluzioni future.

Prima parte: comprendere le tecnologie dell'intelligenza artificiale

I. Storia della nozione di intelligenza artificiale

La storia dell'intelligenza artificiale è un percorso lungo e affascinante, che affonda le sue radici ben prima dell'avvento dei computer moderni.

A. La preistoria dell'intelligenza artificiale e le sue rappresentazioni culturali

• Dalla mitologia antica alle macchine calcolatrici: L'idea di creare entità intelligenti o autonome è presente fin dall'antichità, con miti e leggende che narrano di golem, automi e esseri artificiali. Questa fascinazione per la creazione di intelligenza si è evoluta, nel tempo, verso la progettazione di macchine in grado di eseguire calcoli complessi, preludio ai computer.
• Un tema tradizionale della fantascienza: La fantascienza ha esplorato ampiamente le possibilità e i pericoli dell'IA, fornendo visioni che spaziano da robot servizievoli a intelligenze artificiali superpotenti e potenzialmente minacciose, plasmando l'immaginario collettivo.

B. I progressi da un secolo: dal battesimo del 1956 alla conferma del 2017

• L'école d'été di Dartmouth del 1956, il momento fondatore della definizione dell'IA: Il termine "intelligenza artificiale" fu coniato ufficialmente durante questo workshop estivo, segnando la nascita formale del campo di ricerca.
• Primavere e inverni dell'IA: La storia dell'IA è caratterizzata da periodi di grande entusiasmo e finanziamenti ("primavere") seguiti da delusioni e tagli ai fondi ("inverni"), quando le promesse non venivano mantenute.
• Gli anni 2010: un decennio di innovazioni e progressi spettacolari: Questo decennio ha segnato una rinascita dell'IA, trainata da grandi volumi di dati, potenza di calcolo e algoritmi di apprendimento profondo, portando a progressi senza precedenti in aree come il riconoscimento di immagini e del linguaggio.
• «L'intelligenza artificiale non esiste»: la questione del «confine» dell'IA: Nonostante i progressi, persiste il dibattito sulla vera natura dell'IA e se essa possa realmente essere considerata "intelligente" nel senso umano del termine, o se sia solo un insieme complesso di algoritmi.

C. La summa divisio dell'IA: intelligenza artificiale simbolica e intelligenza artificiale connessionista

Il campo dell'IA è tradizionalmente diviso in due grandi paradigmi:

1. L'intelligenza artificiale simbolica

• a) Principi generali delle IA simboliche: Si basano sulla manipolazione di simboli e sulla logica. I sistemi cercano di replicare il ragionamento umano attraverso regole esplicite, alberi decisionali e basi di conoscenza.
• b) Alcune illustrazioni di queste tecnologie: Esempi includono i sistemi esperti, utilizzati in diagnostica medica o nella configurazione di prodotti, e gli algoritmi di ricerca per giochi come gli scacchi.
• c) Limiti semiotici che le allontanano dall'intelligenza: Questi sistemi faticano a gestire l'ambiguità, il senso comune e il contesto, rendendoli rigidi e meno adattabili rispetto all'intelligenza umana.

2. L'intelligenza artificiale connessionista

• a) Quadro e definizione di queste «superstatistiche»: Si basano su modelli matematici e statistici che imparano dai dati, piuttosto che su regole predefinite. Spesso descritte come "superstatistiche" per la loro capacità di individuare pattern complessi.
  • (1) All'origine di tutti questi sistemi: i classificatori lineari: Sono i blocchi fondamentali, capaci di separare i dati in categorie usando iperplanari.
  • (2) La pietra angolare teorica: il teorema di approssimazione universale: Questo teorema dimostra che una rete neurale con un numero sufficiente di neuroni in un unico strato nascosto può approssimare qualsiasi funzione continua.
• b) Le reti neurali artificiali: alle origini dell'apprendimento profondo o Deep Learning: Ispirate alla struttura del cervello, le reti neurali sono al centro dell'apprendimento profondo.
  • (1) Le prime teorie negli anni 1940: McCulloch e Pitts posero le basi teoriche dei neuroni artificiali.
  • (2) I primi percettroni:
    • (a) I percettroni monostrato: Inventati da Frank Rosenblatt, erano in grado di apprendere a classificare pattern lineari.
    • (b) I percettroni multistrato (MLP) e le reti neurali a propagazione in avanti (FNN): Permettono di modellare relazioni non lineari, elaborando i dati in un'unica direzione.
  • (3) La retropropagazione del gradiente (Back-propagation): Algoritmo chiave per l'addestramento efficiente delle reti neurali multistrato.
  • (4) Le reti neurali convoluzionali (CNN): Eccellono nell'analisi di immagini e video, grazie alla loro capacità di rilevare pattern spaziali.
  • (5) Le reti neurali ricorrenti (RNN): Progettate per gestire dati sequenziali, come il linguaggio naturale.
  • (6) Le reti neurali a memoria a breve e lungo termine (LSTM): Una variante delle RNN che risolve il problema della memoria a lungo termine nei dati sequenziali.
• c) Gli altri sistemi d'apprendimento:
  • (1) Le macchine a vettori di supporto (SVM): Algoritmi di classificazione e regressione potenti, basati sulla ricerca dell'iperpiano ottimale che separa le classi.
  • (2) I modelli markoviani o «catene di Markov»: Usati per modellare sequenze di eventi dove la probabilità di uno stato futuro dipende solo dallo stato attuale.
  • (3) Il contributo delle reti bayesiane all'IA: Modelli probabilistici che rappresentano relazioni di dipendenza condizionale tra variabili.
  • (4) L'apporto della «regolarizzazione statistica» di Vapnik: Principi che mirano a ridurre il rischio di overfitting nei modelli di apprendimento.

II. Le IA generative: principale innovazione tecnologica in intelligenza artificiale dal 2017

L'emergere delle IA generative ha rappresentato una svolta decisiva nel panorama tecnologico.

A. Le principali avanzate in materia di generazione di contenuto questi ultimi anni

• 1. «Attention is all you need»: la tecnologia Transformer inventata nel 2017: Questa architettura ha rivoluzionato l'elaborazione del linguaggio naturale e non solo, permettendo modelli di apprendimento più efficienti e potenti.
  • a) La «tokenizzazione»: scomporre preventivamente le parole: I testi vengono divisi in unità più piccole, i token, per l'elaborazione.
  • b) L'embeddings lessicale: vettorizzare i token: I token vengono trasformati in vettori numerici che catturano il loro significato semantico.
  • c) Il meccanismo di attenzione: integrare il contesto: Il Transformer permette al modello di pesare l'importanza di diverse parti dell'input per generare l'output, catturando relazioni a lungo raggio.
  • d) Un apprendimento auto-supervisionato e dati sintetici: Spesso addestrati su enormi dataset senza supervisione esplicita, imparando a prevedere parti mancanti o future del dato.
• 2. Distinguere i «modelli di fondazione» dai sistemi d'intelligenza artificiale:
  • a) La nozione di «modello di fondazione» e le sue ambiguità: Si riferisce a modelli di grandi dimensioni, addestrati su una vasta gamma di dati non specifici, che possono essere adattati per molti compiti diversi.
  • b) Il «fine-tuning»: passare dal modello di fondazione alle applicazioni: Un modello di fondazione viene poi "ottimizzato" (fine-tuned) su dati specifici per un compito particolare.
  • c) Perché le IA diventano «woke»?: Questa espressione, spesso usata in modo peggiorativo, si riferisce a quando i modelli di IA riflettono o vengono addestrati per allinearsi a certi valori sociali o etici, a volte portando a risposte controverse.
• 3. Altre innovazioni recenti oltre la tecnologia Transformer in materia di IA generativa:
  • a) La Generazione per diffusione: un'innovazione all'avanguardia per la creazione di contenuti visivi: Modelli come Stable Diffusion o Midjourney generano immagini partendo da una descrizione testuale, aggiungendo rumore e poi imparando a rimuoverlo per creare l'immagine.
  • b) Generare contenuto con reti neurali convoluzionali: gli auto-encoder variazionali (VAE): Permettono di imparare una rappresentazione compressa dei dati e poi generare nuovi campioni simili.
  • c) Le reti generative avversariali (GAN): Composti da un generatore e un discriminatore che si sfidano per produrre dati sempre più realistici.
  • d) L'ultima innovazione del 2024: l'architettura Mamba e la sua associazione con un Transformer nel modello Jamba: Mamba è un nuovo tipo di architettura che promette efficienza e prestazioni migliorate, specialmente in contesti che richiedono un'elaborazione efficiente delle sequenze, e la sua combinazione con Transformer (come nel modello Jamba) mira a sfruttare i punti di forza di entrambi.

B. Le grandi questioni tecnologiche e le possibili evoluzioni a venire

Nonostante i progressi, l'IA solleva importanti questioni tecniche e etiche.

1. Le problematiche tecnologiche dell'intelligenza artificiale

• a) L'IA «scatola nera»: la doppia sfida dell'esplicabilità: Molti modelli di IA, specialmente quelli di apprendimento profondo, sono difficili da interpretare, rendendo difficile capire come arrivano alle loro decisioni. Questo solleva problemi di fiducia, responsabilità e audit.
• b) Bias a più livelli: dati reali o sintetici e scelte di programmazione: I modelli di IA possono ereditare e amplificare i bias presenti nei dati di addestramento (reali o sintetici) o introdurne di nuovi attraverso le scelte di progettazione e programmazione.
• c) Errori gravi o «allucinazioni»: Le IA generative possono produrre informazioni false ma convincenti, note come "allucinazioni", che rappresentano una seria sfida per la loro affidabilità.

2. Le tendenze della ricerca e le principali prospettive tecnologiche

• a) Allucinare meno: la «Retrieval Augmented Generation» (RAG) tramite i «Retrieval Augmented Transformers» (RAT): Tecniche come RAG mirano a ridurre le allucinazioni permettendo ai modelli di consultare fonti esterne di conoscenza affidabili prima di generare una risposta.
• b) Manipolare in entrata e in uscita dati di natura varia: le IA generative multimodali: Queste IA possono elaborare e generare diversi tipi di dati (testo, immagini, audio, video) contemporaneamente, avvicinandosi a una comprensione più completa del mondo.
• c) Trasformare i sistemi d'IA in interfacce che diventano la principale piattaforma d'accesso ai servizi digitali: Si prevede che l'IA diventerà il punto di accesso primario per interagire con vari servizi digitali, agendo come assistente o agente intelligente.
• d) Andare verso più autonomia: la sfida dell'agentività: Lo sviluppo di IA in grado di agire autonomamente, prendere decisioni e perseguire obiettivi senza costante supervisione umana.
• e) Fare di più con meno: verso un'IA frugale ed efficiente: La ricerca si concentra sulla creazione di modelli di IA più efficienti dal punto di vista computazionale ed energetico, riducendo l'impronta di carbonio e i costi.
• f) L'esempio del metodo «Mixture of Experts» (MoE): Questa tecnica consente ai modelli di essere più efficienti suddividendo il carico di lavoro tra diversi "esperti" specializzati.

3. Sintesi e articolazioni tra i modelli d'IA

• a) Tecnologie incapsulate e spesso combinate: Le diverse architetture e tecniche di IA non sono mutuamente esclusive, ma spesso si combinano per creare sistemi più potenti.
• b) Gli Alberi di pensieri o Trees of Thought (ToT): l'IA «simboliconnessionista»: Rappresentano un tentativo di ibridare l'IA simbolica (ragionamento logico) con quella connessionista (apprendimento dai dati) per migliorare la capacità di pianificazione e problem solving.
• c) La fecondità delle ibridazioni IA simboliche/IA connessioniste, in particolare per dotare questi sistemi di una rappresentazione del mondo reale: L'unione dei due paradigmi può portare a IA con una migliore comprensione e modellizzazione del mondo.
• d) La varietà dei domini dell'intelligenza artificiale: L'IA è un campo vasto e diversificato, che comprende molti approcci e applicazioni specifiche.

III. Il grande mercato dell'IA: una catena di valore estesa dalle materie prime ai consumatori

L'IA non è solo tecnologia, ma un ecosistema economico complesso.

A. Dal silicio alle applicazioni: la catena di valore complessa dell'intelligenza artificiale

• 1. Uno schema spesso semplificato in quattro fasi: Comunemente si riduce la catena di valore a hardware, piattaforme, modelli e applicazioni.
• 2. La complessità della decina di fasi della catena: In realtà, la catena è molto più articolata.
  • a) A monte: dal silicio ai microprocessori: Comprende l'estrazione delle materie prime, la fabbricazione di chip avanzati come le GPU.
  • b) Lo strato multiforme delle infrastrutture: Data center, reti, servizi cloud che forniscono la potenza di calcolo necessaria.
  • c) La fase di definizione dei modelli: dalla loro architettura alla messa a punto: Include la ricerca e sviluppo, l'addestramento su larga scala e l'ottimizzazione dei modelli.
  • d) A valle: le applicazioni: Lo sviluppo di prodotti e servizi basati sull'IA per utenti finali e aziende.

B. La moltiplicazione dei modelli proposti al grande pubblico

• 1. Una chiara dominazione dell'IA generativa da parte della Big Tech americana: Aziende come OpenAI, Google, Microsoft e Meta sono i principali attori nello sviluppo e nella diffusione di IA generative.
• 2. Il mercato molto evolutivo dei grandi modelli di linguaggio (LLM): Questo settore è in rapida evoluzione, con nuovi modelli e funzionalità che emergono costantemente.
• 3. Gli altri modelli d'IA generativa disponibili sul mercato: Oltre agli LLM, ci sono modelli per la generazione di immagini, musica, video e altro ancora.
• 4. Modelli più o meno aperti: la questione dell'open source: Esiste un dibattito sulla disponibilità dei modelli di IA: alcuni sono proprietari, altri open source, con implicazioni per l'innovazione e la sicurezza.

Seconda parte: le sfide dell'intelligenza artificiale

I. Problematiche politiche preoccupanti, soprattutto nell'era dell'IA generativa

L'IA generativa amplifica diverse problematiche politiche e sociali esistenti.

A. Una sovranità sempre più minacciata: le sfide geopolitiche della catena di valore dell'IA

• 1. Trarre le conseguenze del fatto che l'IA è prima di tutto americana: La leadership tecnologica e la dominanza dei giganti americani pongono interrogativi sulla sovranità digitale di altre nazioni.
• 2. La Francia e l'Europa, «colonie digitali», hanno già completamente perso la corsa mondiale all'IA?: Si solleva il rischio che l'Europa e la Francia, in particolare, possano trovarsi in una posizione di dipendenza tecnologica.
• 3. Una sovranità francese che può ancora essere difesa in quanto potenza intermedia: Il rapporto suggerisce che la Francia può ancora esercitare influenza e difendere la propria sovranità attraverso collaborazioni strategiche e investimenti mirati.

B. Rischi di manipolazioni politiche o addirittura di destabilizzazione

• 1. Disinformazione al quadrato: Le IA generative possono produrre contenuti falsi su larga scala e in modo convincente, esacerbando il problema della disinformazione.
• 2. Iperfalsificazioni realistiche («deepfakes»): La capacità di creare video, audio e immagini falsi estremamente realistici pone seri rischi di manipolazione dell'opinione pubblica e di attacchi alla reputazione.
• 3. Cybersecurity e rischio di attacchi su larga scala:
  • a) La tipologia degli usi malevoli dell'IA generativa: Include la creazione automatizzata di malware, attacchi di phishing più sofisticati e la compromissione di sistemi.
  • b) Come rispondere a questi nuovi rischi in materia di sicurezza di fronte all'ascesa dell'IA generativa oggi?: Sono necessarie nuove strategie di difesa, rilevamento e regolamentazione per contrastare queste minacce emergenti.

C. La singolarità e il rischio esistenziale: dall'IAG agli scenari alla Terminator

Il dibattito sull'intelligenza artificiale generale (IAG) e sulla singolarità rimane una questione cruciale.

• 1. Cosa sono l'intelligenza artificiale generale (IAG) e la Singularità?: L'IAG si riferisce a un'IA con capacità cognitive umane o superumane in un'ampia gamma di compiti, mentre la Singolarità è l'ipotetico punto in cui il progresso tecnologico diventa incontrollabile e irreversibile.
  • a) La prospettiva possibile ma non certa dell'intelligenza artificiale generale rende la singolarità e il rischio esistenziale ancora meno probabili: Sebbene l'IAG sia una possibilità, il suo arrivo non è garantito e la Singolarità è ancora più speculativa.
  • b) L'ipotesi delle leggi di scala o scaling laws: Alcuni ricercatori suggeriscono che, aumentando la scala dei modelli (dati, parametri), le capacità dell'IA possano emergere in modo prevedibile.
  • c) Alcuni punti di riferimento sulle evoluzioni in corso: capacità crescenti e la probabilità di plateau: Sebbene le capacità dell'IA stiano crescendo, non è chiaro se continueranno a farlo indefinitamente o se raggiungeranno dei plateau.
• 2. Lo spazio delle posizioni di fronte all'intelligenza artificiale generale e al rischio esistenziale:
  • a) I tecnopessimisti: l'IA è un rischio esistenziale e l'alternativa un moratorio o il transumanesimo: Sostengono che l'IA avanzata rappresenta una minaccia fondamentale per l'umanità e che dovrebbero essere imposte restrizioni severe o si dovrebbe puntare al transumanesimo.
  • b) I pessimisti moderati: l'IA è una minaccia, le misure di prevenzione una soluzione: Riconoscono i rischi ma credono che possano essere mitigati con una regolamentazione attenta e misure di sicurezza.
  • c) I tecno-ottimisti: l'assenza di minaccia, la prosecuzione dello sviluppo tranquillo dell'IA con una cornice pragmatica: Ritengono che i benefici dell'IA superino i rischi e che lo sviluppo debba continuare con una supervisione flessibile e pragmatica.

II. Effetti globalmente positivi per la società nonostante impatti economici

Nonostante le sfide, l'IA è destinata ad avere effetti prevalentemente positivi sulla società, con impatti trasformativi sull'economia. L'IA promette di aumentare la produttività in numerosi settori, dall'industria alla sanità, offrendo nuove opportunità di crescita e innovazione. Tuttavia, questi benefici sono accompagnati da significativi impatti economici e sociali, come la potenziale automazione di posti di lavoro, la necessità di riqualificare la forza lavoro e la creazione di nuove professioni. La redistribuzione della ricchezza generata dall'IA e la gestione delle disuguaglianze emergenti saranno aspetti cruciali per garantire che i vantaggi dell'IA siano condivisi equamente. È fondamentale investire in programmi di formazione e adattamento per aiutare i lavoratori a navigare in questo panorama in evoluzione.

III. I. Le sfide culturali e scientifiche

L'IA non influenza solo l'economia e la politica, ma anche la cultura e la scienza. Culturalmente, l'IA sfida la nostra comprensione dell'intelligenza, della creatività e dell'identità. La generazione di contenuti da parte dell'IA solleva questioni di autorialità, originalità e il valore dell'espressione umana. Nel campo scientifico, l'IA sta accelerando la ricerca in quasi ogni disciplina, dalla scoperta di farmaci alla climatologia, ma richiede anche un ripensamento dei metodi scientifici, della verificabilità dei risultati prodotti dall'IA e della formazione dei futuri scienziati per lavorare con e attraverso questi potenti strumenti.

Terza parte: la governance e la regolazione dell'intelligenza artificiale

I. Una strategia nazionale per l'IA in chiaroscuro

La Francia ha elaborato una strategia nazionale per l'IA, ma la sua implementazione e i suoi risultati sono visti con una certa cautela, evidenziando successi e aree di miglioramento. L'efficacia di tali strategie dipende dalla capacità di coordinare gli sforzi, garantire finanziamenti adeguati e mantenere un approccio agile di fronte ai rapidi progressi tecnologici.

II. I confronti internazionali e i progetti di governance mondiale dell'IA

La regolamentazione dell'IA è una sfida globale. Diversi paesi e blocchi regionali, come l'Unione Europea con il suo AI Act, stanno sviluppando quadri normativi. Esistono anche numerosi progetti per una governance mondiale dell'IA, che cercano di stabilire principi etici, standard di sicurezza e meccanismi di cooperazione internazionale per affrontare i rischi e massimizzare i benefici dell'IA su scala planetaria.

Quarta parte: le proposte dell'ufficio

Il rapporto si conclude con una serie di proposte dettagliate, formulate dall'ufficio, volte a rafforzare la posizione della Francia e dell'Europa nel campo dell'IA, a mitigare i rischi e a garantire che lo sviluppo e l'adozione dell'intelligenza artificiale avvengano in modo etico, responsabile e benefico per tutti. Queste proposte coprono aspetti tecnologici, economici, sociali e regolatori, puntando a un equilibrio tra innovazione e sicurezza.