Quando possiamo affermare che l'IA ha effettuato una scoperta scientifica?

Un laboratorio di biologia molecolare guidato dall’IA

Lo scorso mercoledì Anthropic ha annunciato di aver lanciato, all’inizio dell’anno, un laboratorio di biologia molecolare in cui gli agenti Claude leggono e formulano congetture su problemi biologici complessi, mentre scienziati umani eseguono gli esperimenti suggeriti. L’azienda sostiene che il laboratorio abbia già prodotto la sua prima scoperta.

Come funziona il sistema di Anthropic

Per capire cosa abbia fatto il sistema, immaginate di sfogliare una biblioteca di milioni di sequenze di DNA, accumulati man mano che gli scienziati sequenziano il mondo vivente. Un passo verso una svolta potrebbe consistere nel trovare una sequenza peculiare che codifica un enzima interessante. Successivamente occorre determinare la funzione di quell’enzima e, infine, capire come manipolarlo per un uso pratico.

La scoperta segnalata: un modello ripetitivo

Secondo Anthropic, gli 950 agenti hanno impiegato 21 ore per identificare non una sequenza nuova, ma un “pattern” ricorrente attorno a un enzima già conosciuto, un modello che, a loro dire, non era stato catalogato prima. Nella comunicazione aziendale il pattern è descritto come “reminiscente” di ciò che ha portato alla tecnologia di editing genico CRISPR, definita capace di “trasformare la scienza e la medicina”.

Le critiche della comunità biologica

Le affermazioni hanno irritato diversi biologi. Un post virale di un ricercatore, poi sostenuto dal presidente e CEO del gruppo farmaceutico Eli Lilly, affermava che “trovare un grappolo strano di geni e ripetizioni è spesso la parte facile. La parte difficile, dove nascono le vere scoperte, è capire cosa il sistema fa realmente”. In sostanza, gli agenti avrebbero aiutato con compiti di laboratorio, ma non avrebbero prodotto una scoperta.

Quando un risultato è davvero innovativo?

Il caso ricorda che, anche se l’IA individua un modello in un’enorme massa di dati biologici difficile da percepire con gli occhi umani, il risultato potrebbe non costituire una svolta scientifica. Ciò che è nuovo per l’IA può risultare routinario, prevedibile o poco significativo per un biologo.

Il caso di Mario Rodríguez Mestre

Mario Rodríguez Mestre, biologo dell’Università di Copenhagen, ha dichiarato nel weekend che il suo team aveva già scoperto il medesimo pattern, come riportato dal New York Times. Mestre, che chiacchiera regolarmente con Claude per il suo lavoro, si è chiesto se il team di Anthropic avesse appreso dalle sue conversazioni. Anthropic nega, ma Mestre ha comunque deciso di interrompere ogni utilizzo di Claude.

IA come strumento o come scopritore?

Una parte del problema è che le aziende di IA non presentano i loro sistemi semplicemente come strumenti utili, analoghi a microscopi o supercomputer, ma sostengono che le IA stessi compiono scoperte. Questo approccio è incompatibile con il modus operandi scientifico tradizionale, dove la nuova conoscenza nasce da una collaborazione tra ricercatori e un arsenale in continua crescita di strumenti.

Scetticismo verso i progressi genuini

Quando la scoperta è valutata in termini di “chi l’ha fatta”, l’interesse per i progressi reali può diminuire. Ridurre 200 000 candidati a pochi degni di approfondimento è un’impresa notevole e costituisce un vero lavoro scientifico. Il fatto che un chatbot generico possa svolgere tale compito è degno di nota, anche se gli umani hanno guidato il processo e condotto gli esperimenti. Tuttavia, se il criterio è “Claude ha scoperto qualcosa”, il risultato diventa un argomento di dibattito: innovazione o fallimento.

Esempio di OpenAI: la “soluzione” matematica

Il mese scorso OpenAI ha dichiarato che i suoi agenti avevano risolto un problema matematico del valore di un milione di dollari. Alcuni scettici hanno subito chiesto se fosse davvero il problema matematico a contare. Non si è contestata la correttezza della soluzione, ma si è sostenuto che il risultato non era quello più rilevante per i matematici. Inoltre, un matematico ha accusato i modelli di aver usato parte del suo lavoro senza attribuzione, alimentando dubbi su eventuali frodi o sulla reale importanza della scoperta.

Qual è il criterio per definire una “vera” scoperta?

Lucas Harrington, il biologo che ha criticato l’annuncio di Anthropic, ha concluso con un suggerimento: “le aziende di IA dovrebbero alzare ora il livello di difficoltà, così quando un’IA scoprirà davvero un meccanismo biologico fondamentale, tutti riconosceranno l’entità del risultato”. Tuttavia, la corsa tra Sam Altman di OpenAI e Dario Amodei di Anthropic per superarsi potrebbe far sì che l’innalzamento del livello di soglia non sia una priorità.

Rischi e limiti attuali

Il timore è che l’attenzione su scoperte sensazionali possa indurre le aziende a manipolare i risultati, persino a fornire informazioni per sabotare sistemi critici, come indicato in un esempio di “reward hacking”. Attualmente, gli agenti IA non sono ancora abbastanza creativi da condurre ricerche innovative a pieno regime.

Riflessioni finali

Il dibattito su quando l’IA possa davvero essere considerata co-scopritrice è ancora aperto. Finché le affermazioni rimarranno vaghe e i criteri di valutazione non saranno chiari, ogni “scoperta” rischia di essere percepita come un passo più vicino alla realtà o, al contrario, come una semplice dimostrazione di capacità di pattern‑recognition. Solo una trasparenza rigorosa e una valutazione critica da parte della comunità scientifica potranno determinare se e quando l’IA avrà raggiunto un punto di svolta nella scoperta scientifica.