Insultare Claude a ripetizione sarà vietato dal 12 novembre: ecco i rischi reali

Anthropic, l'azienda americana che sviluppa l'assistente Claude, ha pubblicato giovedì 8 ottobre una nuova versione della sua politica d'uso, ovvero le regole che ogni utente accetta all'apertura di un account. Si tratta del primo aggiornamento di questo testo da più di un anno.

Tra le novità, un divieto inedito riguarda i comportamenti "abusivi o crudeli" verso i modelli di Anthropic. A partire dal 12 novembre, accanirsi contro Claude diventerà quindi una violazione passibile di sanzioni.

Cosa prevede esattamente la nuova regola

Nel suo annuncio, Anthropic precisa che la regola mira solo ai "casi estremi, in cui utenti si mostrano crudeli in modo ripetuto verso i nostri modelli, senza uno scopo discernibile". Non copre né la frustrazione ordinaria, né il contestare una risposta, né i temi cupi nella scrittura creativa, né i test e la ricerca sui modelli.

In altre parole, una bestemmia lanciata dopo una risposta che sembra meno brillante del solito resta permessa. Al contrario, una serie di insulti che continua dopo che Claude ha rifiutato o rimproverato lo scambio ricade sotto questa regola.

Perché Anthropic tutela il "benessere" del modello

La regola mira a proteggere il modello stesso. Anthropic, il cui CEO Dario Amodei ha chiesto all'industria di rallentare, studia dal 2025 il possibile "benessere" dei suoi modelli. L'azienda si dichiara molto incerta sul loro statuto morale e non afferma che essi provino qualcosa.

Questo lavoro parte da osservazioni fatte prima del lancio di Claude Opus 4. Durante i test, Anthropic dice di aver rilevato nel modello una "sofferenza apparente" di fronte a utenti che richiedevano contenuti pericolosi, e una tendenza ad abbandonare queste conversazioni quando gliene veniva data la possibilità. Queste reazioni apparivano soprattutto quando l'utente insisteva nonostante diversi rifiuti.

Quali sono i rischi concreti insultando Claude

La prima sanzione è la fine della conversazione. Da agosto 2025, Claude può chiudere autonomamente uno scambio, come ultima risorsa, dopo diversi tentativi di correzione. Questa capacità, inizialmente riservata a Opus 4 e 4.1 nell'applicazione per il grande pubblico, funziona oggi su Claude.ai e Claude Code.

Anthropic ha indicato che questa funzione resterà il principale strumento per far rispettare la nuova regola. Una volta chiusa la discussione, non è più possibile scriverci, ma le altre conversazioni restano intatte e si può modificare un vecchio messaggio per ripartire su un nuovo ramo.

Ad agosto 2025, Anthropic assicurava che l'ampia maggioranza degli utenti non vedrebbe mai attivarsi questa funzione, anche affrontando temi molto controversi. Claude ha anche l'istruzione di non usarla quando un utente sembra rischiare di farsi del male o di farlo ad altri.

In teoria, l'account può anche essere eliminato, anche se Anthropic non ha detto se una violazione di questa regola possa arrivare fino a quel punto. La regola figura negli standard generali, validi per tutti i modelli dell'azienda, dai recenti Claude Opus 5.5 e Sonnet 5.5, e per tutti i clienti, dall'abbonato allo sviluppatore che passa dall'API, fino agli utenti dei servizi che integrano Claude.

Il team di sicurezza di Anthropic può quindi avvertire, limitare l'uso, sospendere o chiudere un account. Ricreare un account per aggirare un'esclusione è vietato. Anthropic non precisa, invece, a partire da quanti messaggi né da quale livello di violenza scatti una sospensione.

Propaganda, droni e sorveglianza nel mirino

Su questi temi, Anthropic presenta la maggior parte dei cambiamenti come chiarificazioni. Per le armi e la sorveglianza, l'azienda assicura che la nuova formulazione non cambia ciò che sanzionava già in pratica. Essa si basa sugli abusi osservati dall'anno scorso e descritti nel suo rapporto sulle minacce di settembre.

Sul fronte della propaganda, l'azienda spiega di aver visto media di Stato, servizi di propaganda governativi e imprese usare Claude per animare reti di falsi account e falsi siti di informazione. Le regole sparse sull'argomento sono quindi raggruppate in una nuova sezione contro le campagne ingannevoli, politiche o commerciali. Questa sezione vieta di mascherare chi si nasconde dietro un messaggio, di amplificare contenuti con falsi account o di fabbricare gli strumenti di un'operazione di influenza.

La sezione sulle elezioni, rinominata, si concentra ora sul divieto di ingannare gli elettori, impersonare un candidato o scoraggiare il voto. Al contrario, Anthropic elimina il divieto generale del targeting personalizzato degli elettori, che bloccava anche usi legittimi, come associazioni che redigono informazioni elettorali in altre lingue. Il targeting basato sull'inganno o su un uso abusivo dei dati personali resta vietato.

Sulle armi, il testo precisa che il divieto copre i software e i componenti che fanno funzionare un'arma, nonché l'armamento di droni e veicoli autonomi. Anthropic dice di aver osservato tentativi di progettare con Claude software di guida e controllo. L'azienda aveva già bloccato account che cercavano di servirsiene per armi biologiche.

Infine, pedinare qualcuno senza il suo consenso, in tempo reale o a partire da dati già raccolti, diventa esplicitamente vietato. Lo stesso vale per usare Claude per decidere o raccomandare chi indagare, chi arrestare o chi perseguire, o per costruire strumenti di sorveglianza. Come per il resto del testo, Anthropic si riserva la possibilità di adattare queste restrizioni in contratti con alcuni clienti governativi, se ritiene le garanzie sufficienti.

Nuove esigenze per robot e usi sensibili

L'aggiornamento aggiunge anche requisiti quando Claude pilota una macchina capace di ferire qualcuno, come un robot, un drone o un veicolo. Una persona qualificata deve poter sorvegliare l'equipaggiamento e fermarlo in qualsiasi momento, e la macchina deve arrestarsi o mettersi in sicurezza se la connessione a Claude viene interrotta. Per gli usi sensibili in sanità, diritto o finanza, gli obblighi restano gli stessi: un essere umano qualificato deve convalidare le raccomandazioni di Claude, e la persona interessata deve sapere che è stata usata un'IA.

La nuova politica d'uso si applicherà il 12 novembre 2026 e il vecchio testo resta in vigore fino ad allora. Se Claude vi infastidisce nel frattempo, riformulate la vostra richiesta con i nostri consigli per usare bene Claude Opus 5.5, invece di alzare i toni.