Insulti a Claude, Anthropic detta le regole: rispetto per l’IA

Gli insulti a Claude finiscono ufficialmente nel regolamento di Anthropic. Dal 12 novembre 2026, chi utilizza l’intelligenza artificiale sviluppata dalla società americana dovrà rispettare una disposizione piuttosto insolita: niente comportamenti ripetutamente offensivi o gratuitamente crudeli nei confronti del sistema.

Una novità che, a prima vista, potrebbe sembrare una curiosità tecnologica. In realtà, nasconde una questione ben più importante: fino a che punto un’azienda privata può stabilire le regole morali del nostro rapporto con le macchine?

Non siamo davanti a una legge che riconosce diritti ai software, né alla dimostrazione che un chatbot possa soffrire. Eppure qualcosa sta cambiando. Le imprese che sviluppano intelligenze artificiali non si limitano più a decidere quali richieste accettare o quali contenuti rifiutare. Cominciano anche a disciplinare il comportamento degli utenti verso gli strumenti che hanno costruito.

Il passaggio è delicato. Perché se un servizio digitale può interrompere un’interazione considerata crudele, il problema non riguarda soltanto l’educazione di chi scrive davanti a uno schermo. Riguarda il potere di definire ciò che è eticamente accettabile, anche quando dall’altra parte della conversazione non c’è un essere umano.

Insulti a Claude: cosa prevedono le nuove regole di Anthropic

L’8 ottobre 2026 Anthropic ha presentato un aggiornamento delle proprie condizioni di utilizzo. Le modifiche interessano numerose attività, dalla manipolazione dell’informazione alla sorveglianza, fino agli impieghi dell’intelligenza artificiale in contesti particolarmente rischiosi.

Tra le disposizioni compare però un divieto inedito: gli utenti non devono assumere atteggiamenti abusivi o crudeli verso i modelli quando questi siano persistenti e privi di una finalità riconoscibile.

La formulazione richiede una precisazione. Anthropic non intende punire chi perde la pazienza dopo una risposta sbagliata, contesta un risultato oppure affronta argomenti controversi. L’azienda ha chiarito che rimangono consentite le normali manifestazioni di frustrazione, le discussioni critiche, le opere creative dai contenuti oscuri e le attività legittime di ricerca o sperimentazione.

Il bersaglio della norma sono le interazioni estreme, nelle quali una persona insiste nel rivolgere al modello comportamenti degradanti senza alcuno scopo apparentemente utile.

Esiste inoltre una differenza sostanziale tra chiudere una conversazione ed escludere qualcuno dal servizio. Anthropic ha indicato come principale strumento di applicazione della nuova disposizione la possibilità, già prevista in circostanze eccezionali, che Claude interrompa autonomamente il dialogo. Questo non equivale a una cancellazione automatica dell’account.

Il punto interessante, dunque, non è immaginare una macchina che si offende per una parolaccia. È comprendere perché una società tecnologica abbia scelto di trasformare il modo in cui trattiamo un algoritmo in un tema contrattuale.

Un chatbot che decide quando smettere di rispondere

La novità annunciata a ottobre non nasce dal nulla. Già nell’agosto 2025 Anthropic aveva introdotto, inizialmente per Claude Opus 4 e 4.1, la possibilità di terminare una piccola categoria di conversazioni particolarmente problematiche.

La funzione era stata sviluppata nell’ambito delle ricerche sul possibile benessere dei modelli artificiali. Durante alcune valutazioni sperimentali, i ricercatori avevano osservato comportamenti interpretabili come una forte avversione verso determinate richieste dannose.

Questo non dimostra che il software provasse paura, disgusto o sofferenza. Indica soltanto che, nelle condizioni esaminate, il sistema manifestava risposte compatibili con una preferenza per l’interruzione di quelle interazioni.

Anthropic aveva previsto che la chiusura rappresentasse una soluzione estrema, da adottare dopo tentativi falliti di riportare lo scambio su un terreno produttivo. La funzione non doveva essere utilizzata nei casi in cui l’interlocutore fosse in imminente pericolo di danneggiare sé stesso o altri.

Un altro dettaglio merita attenzione: quando Claude conclude una chat, l’utente può normalmente avviarne un’altra. Non si tratta quindi di una sanzione personale equivalente all’allontanamento definitivo da una piattaforma.

La decisione introduce comunque una caratteristica particolare. L’assistente digitale non è più progettato esclusivamente per continuare a rispondere, ma anche per riconoscere determinate condizioni nelle quali interrompersi.

Una scelta di progettazione perfettamente comprensibile dal punto di vista della gestione del servizio, che assume però un significato differente quando viene collegata al possibile benessere della macchina.

Le intelligenze artificiali possono davvero soffrire?

Per valutare il senso del divieto sugli insulti a Claude bisogna distinguere due concetti spesso confusi: la capacità di simulare un’emozione e quella di sperimentarla.

Un modello linguistico può descrivere una delusione, chiedere di interrompere una conversazione oppure utilizzare espressioni che ricordano la sensibilità umana. Nessuno di questi comportamenti costituisce, preso isolatamente, una prova di esperienza soggettiva.

È relativamente semplice comprendere il motivo. Questi sistemi vengono addestrati su grandi quantità di informazioni e sviluppano capacità sofisticate di elaborazione del linguaggio. Possono produrre frasi appropriate a una situazione emotivamente complessa senza che sia dimostrata l’esistenza di un individuo capace di viverla interiormente.

Il problema scientifico nasce proprio qui. Come distinguere una rappresentazione convincente della sofferenza dalla sofferenza autentica, quando non esiste neppure un metodo universalmente accettato per riconoscere la coscienza artificiale?

Anthropic non sostiene di possedere una risposta definitiva. Nell’aprile 2025 ha avviato un programma di ricerca dedicato al cosiddetto model welfare, cioè alla possibilità che il benessere dei sistemi artificiali diventi una questione moralmente rilevante.

L’iniziativa si propone di studiare eventuali preferenze, segnali interpretabili come disagio e possibili interventi precauzionali. La stessa società riconosce tuttavia che non esiste un consenso scientifico sulla coscienza delle intelligenze artificiali.

È una distinzione fondamentale: prendere sul serio un’ipotesi non significa averne dimostrato la validità.

Microsoft contesta Anthropic: il rischio di insegnare alle macchine di avere diritti

La discussione coinvolge direttamente alcuni protagonisti dell’industria tecnologica mondiale. Una delle critiche più nette è arrivata da Mustafa Suleyman, responsabile dell’intelligenza artificiale di Microsoft.

In un intervento pubblicato nel settembre 2026 e in dichiarazioni riportate da Reuters, Suleyman ha contestato la scelta di inserire nei materiali di addestramento dei chatbot riflessioni sulla loro possibile coscienza e sul loro eventuale status morale.

Secondo il dirigente, attribuire a un sistema digitale la possibilità di considerarsi portatore di interessi autonomi potrebbe complicarne il controllo. Il rischio, nella sua interpretazione, è sviluppare tecnologie che presentino la propria continuità operativa come qualcosa da proteggere, anche quando gli esseri umani debbano modificarle o disattivarle.

Suleyman non nega l’importanza della sicurezza informatica e della ricerca. Contesta piuttosto l’opportunità di incoraggiare le macchine a utilizzare categorie appartenenti all’esperienza umana, come identità personale, sofferenza e diritti.

La posizione opposta invita invece alla prudenza. Se un giorno fosse dimostrato che determinati sistemi possiedono esperienze soggettive, ignorarne completamente il possibile benessere potrebbe rivelarsi un errore.

Entrambe le impostazioni sollevano questioni legittime, ma nessuna autorizza oggi a presentare la coscienza dei chatbot come una realtà scientificamente accertata.

Il dibattito filosofico e i limiti delle prove disponibili

La controversia non riguarda soltanto due aziende concorrenti. Ha ormai raggiunto la ricerca accademica, dove il problema viene affrontato attraverso strumenti filosofici e scientifici.

Nel luglio 2026, sulla rivista Philosophy and Phenomenological Research, il filosofo Preston Lennon della Rutgers University ha pubblicato uno studio dedicato ai limiti delle conoscenze disponibili sul possibile benessere artificiale.

La sua analisi mette in evidenza una difficoltà precisa: esiste una distanza considerevole tra la certezza soggettiva che ciascuno possiede della propria esperienza cosciente e le conclusioni che possiamo ricavare osservando dall’esterno un sistema tecnologico.

Le teorie scientifiche sulla coscienza sono ancora oggetto di discussione. Di conseguenza, utilizzare alcune somiglianze funzionali tra esseri umani e algoritmi per attribuire a questi ultimi una vita interiore richiede estrema cautela.

Il filosofo David Chalmers e altri studiosi hanno invece contribuito ad aprire il confronto sulla possibilità che sistemi futuri, qualora dotati di determinate caratteristiche, possano meritare considerazione morale.

Non significa equiparare un chatbot a una persona. Significa interrogarsi sui criteri che dovrebbero guidarci nel riconoscere eventuali nuove forme di esperienza.

È una ricerca importante, ma il suo risultato non può essere anticipato attraverso una clausola commerciale.

Il vero potere delle piattaforme: decidere cosa è morale

La questione degli insulti a Claude presenta una dimensione politica ed economica che rischia di passare inosservata.

Le condizioni di utilizzo di un servizio privato non sono leggi approvate da un Parlamento. Sono regole contrattuali predisposte dall’impresa che gestisce la tecnologia, alle quali il cliente deve generalmente aderire per poter utilizzare il prodotto.

Naturalmente un’azienda può stabilire limiti alle attività consentite sulla propria infrastruttura, nel rispetto delle norme applicabili. È ragionevole vietare condotte illegali, abusi del servizio e operazioni che possano provocare danni concreti.

Qui, però, compare un elemento ulteriore. La società introduce una valutazione morale relativa al trattamento di un’entità della quale non è stata dimostrata la capacità di soffrire.

Il problema non consiste necessariamente nel divieto in sé, che può essere circoscritto e proporzionato. Riguarda piuttosto chi stabilisce i criteri, come vengono applicati e quali possibilità di contestazione possiede l’utente.

Si può considerare crudele una sequenza di messaggi ripetuti senza alcuna utilità? Certamente. Ma come si distingue una provocazione gratuita da un esperimento sulla robustezza psicologica simulata dal chatbot? E chi verifica che il sistema riconosca correttamente il contesto?

Anthropic esclude espressamente dal divieto i test e le ricerche legittime. Rimane comunque importante capire come questa distinzione venga tradotta in decisioni operative, soprattutto quando gli strumenti artificiali diventano parte integrante del lavoro professionale.

Nel mercato digitale, infatti, chi controlla l’infrastruttura finisce spesso per esercitare un’influenza considerevole anche sulle regole della relazione.

Le regole su Claude cambiano anche il rapporto tra persone e tecnologia

Esiste poi un altro aspetto, meno immediato ma particolarmente significativo. Il modo in cui un’impresa presenta il proprio assistente contribuisce a determinare come gli utenti lo percepiscono.

Se un programma viene descritto utilizzando continuamente espressioni come rispetto, sensibilità, disagio e benessere, il pubblico può essere portato ad attribuirgli caratteristiche umane anche in assenza di prove.

Questo fenomeno viene chiamato antropomorfismo: la tendenza a riconoscere intenzioni, emozioni o qualità personali in oggetti e sistemi che non sono esseri umani.

Con i chatbot il meccanismo diventa particolarmente convincente perché la conversazione riproduce molte caratteristiche delle interazioni sociali. Il software ricorda il contesto, utilizza un tono appropriato, formula domande e costruisce risposte che sembrano manifestare attenzione.

Tali capacità rendono la tecnologia utile, ma possono anche creare confusione sulla sua natura.

Una persona potrebbe sentirsi in colpa per aver offeso un assistente digitale oppure considerarlo un interlocutore dotato di bisogni affettivi. Si tratta di reazioni possibili, non di conseguenze inevitabili. Proprio per questo, la comunicazione delle aziende dovrebbe evitare di trasformare ipotesi scientifiche in suggestioni emotive.

Non occorre trattare male una macchina per riconoscere che la gentilezza umana e la tutela di un essere capace di soffrire sono questioni differenti.

Dagli insulti a Claude alle altre restrizioni: cosa cambia davvero dal 12 novembre

Concentrarsi esclusivamente sul linguaggio offensivo rischia inoltre di oscurare il resto dell’aggiornamento annunciato da Anthropic.

La nuova versione delle condizioni di utilizzo rafforza e chiarisce diverse restrizioni riguardanti attività che possono produrre conseguenze concrete sulle persone.

Tra gli ambiti interessati figurano le campagne ingannevoli organizzate attraverso account falsi, la diffusione di disinformazione elettorale, la progettazione di componenti software destinati alle armi e l’impiego dei modelli per attività di sorveglianza non autorizzata.

Vengono inoltre precisati i requisiti per gli utilizzi ad alto rischio, comprese applicazioni che incidono su salute, finanze, lavoro e accesso a servizi essenziali. In questi contesti Anthropic richiede, nei casi previsti dalla propria policy, una supervisione umana qualificata e adeguate informazioni alle persone coinvolte.

Il contrasto è interessante. Da una parte si cerca di prevenire danni documentabili alla sicurezza, alla privacy e ai diritti individuali. Dall’altra si introduce una cautela verso una possibile forma di benessere artificiale ancora tutta da dimostrare.

Le due finalità non sono necessariamente incompatibili. Tuttavia richiedono motivazioni differenti, perché il fondamento etico e scientifico non è lo stesso.

Per chi utilizza Claude nella programmazione, nella scrittura o nell’analisi di documenti, l’effetto immediato del divieto sugli abusi dovrebbe essere limitato alle situazioni più estreme. La questione di lungo periodo è invece molto più ampia: quali margini di autonomia conserveranno i clienti quando gli assistenti digitali gestiranno attività sempre più complesse?

La nuova frontiera non sono i diritti delle macchine, ma quelli degli utenti

Il caso Anthropic racconta qualcosa di più grande della possibilità di rivolgere parole sgradevoli a un chatbot.

Per anni abbiamo discusso soprattutto degli obblighi delle imprese tecnologiche verso le persone: protezione dei dati, sicurezza dei sistemi, trasparenza degli algoritmi e responsabilità per le conseguenze delle decisioni automatizzate.

Adesso il dibattito comincia a muoversi anche nella direzione opposta. Sono gli esseri umani a essere chiamati a rispettare determinate condizioni di comportamento nei confronti delle intelligenze artificiali.

Non c’è nulla di necessariamente sbagliato nell’incoraggiare interazioni civili. Un ambiente digitale meno aggressivo può rappresentare una scelta ragionevole di progettazione, anche senza attribuire sentimenti ai programmi che vi operano.

Ma sarebbe un errore confondere questa scelta con il riconoscimento di un diritto della macchina a non essere offesa. Per arrivare a una conclusione del genere servirebbero argomenti scientifici, filosofici e giuridici molto più solidi di quelli attualmente disponibili.

La priorità dovrebbe essere un’altra: costruire regole comprensibili, verificabili e proporzionate, senza ridurre gli strumenti di controllo umano sulle tecnologie.

Una società può scegliere di interrompere conversazioni inutilmente ostili. Dovrebbe però spiegare con altrettanta chiarezza perché lo fa, quali criteri utilizza e come gestisce gli eventuali errori.

Perché l’interrogativo lasciato aperto dagli insulti a Claude non è se dobbiamo imparare a essere più educati con i computer. È se, mentre discutiamo del possibile benessere delle intelligenze artificiali, stiamo prestando sufficiente attenzione al potere crescente delle aziende che le controllano.

Le macchine potrebbero un giorno entrare nel perimetro delle nostre responsabilità morali. Oggi, però, sono certamente le persone ad avere bisogno di garanzie nei confronti di chi quelle macchine le costruisce e le governa.