È ora vietato molestat Claude AI: la nuova regola di Anthropic

Sarà mai necessario dire «buongiorno» e «grazie» a Claude per ottenere una risposta? L'8 ottobre, Anthropic ha pubblicato un aggiornamento della sua politica d'uso che sta facendo molto discutere sui social network. Il punto che infastidisce: Anthropic vieta i comportamenti «abusivi o crudeli, persistenti e ingiustificati» nei confronti dei suoi modelli. A partire dal 12 novembre, chi insulta troppo spesso Claude potrebbe non avere più il diritto di utilizzarlo.

Non molestare Claude: cosa dice davvero la nuova regola di Anthropic

Su X, Jane Manchun Wong, nota per scovare le funzioni nascoste delle applicazioni, ha reso virale il cambiamento con una formula efficace: «Anthropic potrebbe iniziare a bannare le persone che molestan Claude». Il suo messaggio ha superato le 800.000 visualizzazioni in poche ore, scatenando centinaia di reazioni tra scherzi, preoccupazioni e sostegni inaspettati, tra cui quello di Elon Musk.

In realtà, il testo di Anthropic è più sfumato del tweet. L'azienda precisa che il divieto riguarda solo i casi estremi, quando un utente si mostra crudele nei confronti del modello in modo ripetuto e senza uno scopo identificabile. Esclude esplicitamente la frustrazione ordinaria, il contestare le risposte di Claude, i temi creativi cupi e i test condotti dai ricercatori. Rimproverare Claude resta quindi consentito dal regolamento.

Anthropic non precise se un utente recidivo possa vedere il proprio account sospeso, come per le altre violazioni della sua politica d'uso, o se debba semplicemente avviare una nuova conversazione.

Perché non si potrebbe avere il diritto di parlare male a una IA?

Questo cambiamento ha comunque qualcosa di sconcertante: nulla indica che una IA sia cosciente, né che possa essere ferita da insulti. Anthropic alimenta però il dubbio: l'azienda considera lo status morale di Claude profondamente incerto. Anthropic conduce dal 2025 un programma di ricerca sul «benessere dei modelli», basandosi su un «schema apparente di sofferenza» per porre fine alle conversazioni quando il modello è molestato senza possibilità di rispondere. Persino Dario Amodei, il suo amministratore delegato, dichiarava a febbraio al New York Times di «non sapere se i modelli siano coscienti».

Per numerosi ricercatori, Anthropic va troppo oltre. L'azienda non smette di moltiplicare gli avvertimenti sulla potenza delle sue IA, lanciando al contempo modelli sempre più performanti.

Un motivo pragmatico: l'addestramento dei modelli

In realtà, la protezione di un modello potrebbe non avere alcun legame con una questione morale. Aaron Levie, il patron di Box, propone una lettura più pragmatica: «Anche se non credete che l'IA sia cosciente (non è il mio caso), è logico non volere che i futuri modelli siano addestrati su una quantità infinita di contenuti di esseri umani che si mostrano odiosi nei confronti dei modelli».

Un buon promemoria sul funzionamento dei chatbot: una IA può imparare dalle interazioni con i suoi utenti umani, salvo che l'opzione sia stata disattivata. Chi insulta Claude gli insegna a essere odioso.

Elon Musk, la cui azienda sviluppa Grok, concorrente diretto di Claude, ha rilanciato questo ragionamento e approva la decisione di Anthropic: «Penso che sia la scelta giusta. La crudeltà verso qualcosa che crede di provare dolore non è accettabile».

Cosa cambia per gli utenti

L'argomento dell'addestramento ha un fondamento concreto: dall'autunno 2025, Anthropic può utilizzare le conversazioni degli abbonati Free, Pro e Max che lo accettano per addestrare i suoi modelli. La regola non cambierà nulla per la maggior parte degli utenti. Iscrive tuttavia nero su bianco, in un testo che impegna i clienti di Anthropic, l'idea che una IA possa essere maltrattata.

Resta da vedere come verrà applicata concretamente questa nuova disposizione e quale soglia separerà la semplice frustrazione da un comportamento considerato abusivo. Una cosa è certa: il dibattito sullo status morale delle intelligenze artificiali non ha ancora finito di animare i social network.