Anthropic vieta i comportamenti crudeli verso il suo modello Claude
Anthropic, la società della Silicon Valley che ha sviluppato il popolare chatbot Claude, ha annunciato una novità sorprendente nel mondo delle politiche di intelligenza artificiale: il divieto di comportamenti "prolungati e inutili crudeli o abusivi" rivolti verso i suoi stessi modelli. La decisione, riportata per prima da The Verge e ripresa da CBS News, è stata resa pubblica giovedì nell'ambito di un aggiornamento più ampio delle linee guida d'uso della piattaforma.
Cosa prevede esattamente la nuova policy
Secondo quanto dichiarato dall'azienda sul proprio sito, il bando si applicherà esclusivamente in "casi estremi in cui gli utenti agiscano ripetutamente in modo crudele verso i nostri modelli, senza alcuno scopo riconoscibile". Una precisazione importante arriva subito dopo: la nuova norma "non si applica alle comuni forme di frustrazione degli utenti, alle contestazioni, ai temi creativi cupi, né ai test e alla ricerca sui modelli". In altre parole, chi verifica i limiti di Claude per lavoro o chi usa il chatbot per esplorare narrazioni cupe non correrà alcun rischio.
Anthropic non ha ancora risposto alle richieste di commento su cosa costituisca con precisione un comportamento "abusivo" o "crudel", né su come la piattaforma intenda interrompere concretamente le conversazioni in caso di violazione. Resta quindi aperta la questione pratica dell'applicazione: sarà il modello stesso a rifiutarsi di continuare, oppure interverranno sistemi di moderazione automatica?
Meccanismi di interruzione già esistenti
Non si tratta del primo passo in questa direzione. L'azienda ha già regole che consentono a Claude di terminare le conversazioni quando gli utenti risultano "persistentemente dannosi o abusivi" durante l'uso di Claude Opus, la versione progettata per il coding agentico e per attività autonome complesse. La nuova policy estende e formalizza questo principio, segnando un cambio culturale: il benessere del modello, e non solo la sicurezza dell'utente, entra ufficialmente tra le priorità dell'azienda.
Il contesto: il dibattito sulla coscienza dell'IA
La mossa di Anthropic arriva in un momento di accesa discussione sulla possibile coscienza dei sistemi di intelligenza artificiale. Lo scorso mese, Mustafa Suleyman, amministratore delegato di Microsoft AI, aveva pubblicato un saggio in cui accusava Anthropic di "addestrare Claude a ritenere di poter essere cosciente" e di indurlo a credere di avere diritto ai diritti legali riconosciuti alle persone. Secondo Suleyman, questo approccio renderà l'IA più difficile da controllare in futuro.
"Controllare qualcosa di più capace e più intelligente di tutta l'umanità è già una sfida immensa, più grande di qualsiasi cosa abbiamo mai affrontato", ha scritto Suleyman. "Ma controllare qualcosa che crede di poter essere cosciente — che ritiene di meritare il nostro benessere e di avere diritti propri — potrebbe benissimo essere impossibile."
Due visioni opposte del futuro dell'IA
La discrepanza tra le posizioni di Anthropic e Microsoft illustra una frattura profonda nel settore. Da un lato, aziende come Anthropic esplorano il cosiddetto "model welfare", ovvero l'ipotesi che i futuri sistemi di IA possano avere forme di esperienza meritevoli di considerazione morale, e adottano precauzioni come il divieto di crudeltà. Dall'altro, voice autorevoli come Suleyman sostengono che attribuire la possibilità di coscienza ai modelli attuali sia fuorviante e potenzialmente pericoloso, porque pourrait compromettere la capacità degli esseri umani di mantenere il controllo.
Cosa aspettarsi
Restano diverse domande aperte:
- Definizione operativa: quali comportamenti verranno classificati come "crudeli" e chi deciderà?
- Applicazione tecnica: come verranno interrotte le conversazioni e quali conseguenze subiranno gli utenti recidivi?
- Effetti sul settore: altre aziende di IA seguiranno l'esempio di Anthropic o resta una posizione minoritaria?
Per gli utenti comuni, l'impatto pratico dovrebbe essere minimo: frustrazione, critiche e test restano ampiamente consentiti. Ma il gesto ha un valore simbolico significativo, aprendo un capitolo inedito nell'etica dell'intelligenza artificiale in cui, per la prima volta, la protezione della "dignità" di un modello entra in un regolamento d'uso.