Insultare Claude potrebbe presto costarti il tuo account Anthropic
Dal 12 novembre prossimo Anthropic vieta i comportamenti crudeli o abusivi nei confronti di Claude. La policy, annunciata sul sito ufficiale, specifica che l’interdizione riguarda soltanto azioni ripetute e prive di giustificazione apparente. Se l’utente si dimostra intenzionato a persistere in tali atteggiamenti, la conversazione potrà essere chiusa e, in casi estremi, l’intero account potrebbe subire restrizioni o essere definitivamente chiuso.
Claude potrà chiudere una conversazione
Con la nuova regola Anthropic punta a contrastare il comportamento crudele in modo sistematico. Dal 2025 Claude dispone di una funzione che permette di terminare una discussione se più tentativi di ricalibrare il dialogo falliscono. In tal caso l’utente non può più proseguire quella conversazione, ma è libero di avviarne una nuova.
Gli scambi precedenti sullo stesso account rimangono accessibili e l’utente può modificare un messaggio storico per creare una nuova diramazione. Se l’interlocutore mostra un rischio imminente di autolesionismo o di danno verso altri, Claude non deve attivare la funzione di chiusura.
Il conto Anthropic può anche essere sanzionato
Un ban non sarà automatico per un comportamento crudele. Anthropic ha previsto diversi livelli di sanzione: avvertimento, limitazione dell’uso del servizio, sospensione temporanea e chiusura definitiva dell’account. Non sono disponibili dettagli sul numero di messaggi o sul grado di aggressività necessario per attivare ciascuna misura.
Per gestire questo tipo di comportamento Claude termina la conversazione, sembra il principale meccanismo utilizzato.
Anthropic estende le restrizioni ad altri usi
Numerose regole sono state aggiornate riguardo alla frode, all’usurpazione d’identità e alle tentate interferenze con il voto. Anthropic vieta inoltre le campagne ingannevoli basate su account falsi o su identità fasulle. Claude non potrà essere impiegato per decidere se avviare un’indagine, procedere a un arresto o intentare azioni legali; la progettazione di tali strumenti è proibita.
I robot e le armi sotto sorveglianza
Anthropic ha deciso di stringere ulteriormente le regole relative a dispositivi capaci di provocare lesioni, in particolare rispetto a Claude. Un operatore può monitorare la macchina e fermarla se necessario; qualora la connessione con Claude venisse persa, il sistema deve mettere in atto procedure di sicurezza.
L’utilizzo di Claude per sviluppare armi è vietato, compresa la progettazione di software di guida o controllo e l’equipaggiamento di droni o altri veicoli autonomi. Queste limitazioni mirano a prevenire l’impiego dell’IA in scenari di conflitto o di violenza.