Quando l’AI mente, sapendo di mentire

Recentemente stavo interrogando alcuni sistemi di Intelligenza artificiale per approfondimenti e verifiche redazionali per questa testata. Ad un certo punto ho avuto bisogno, o meglio mi sono imbattuto, in alcuni problemi tecnici legati all’indicizzazione del portale. Da qui mi sono accorto, al di là del bene e del male come direbbe qualcuno, di qualcosa di inaspettato nel mio rapporto con l’AI, non certamente una relazione tecnica la “nostra” ma diciamo una conoscenza abbastanza approfondita su prompt, utilizzo e controllo delle fonti.

Cerco di sintetizzare. Non convincendomi alcune risposte del mio client preferito — del resto c’è scritto sotto che può sbagliare, Sic! — ho deciso di verificare quello su cui stavo lavorando attraverso Gemini, di cui francamente non mi ritengo né amante né estimatore.

Da una semplice ricerca di fonti, che non riuscivo a trovare ma conoscevo bene, ho iniziato a fare all’AI Mode di Google delle domande riferite al funzionamento dell’algoritmo. Mi iniziano ad arrivare una serie di risposte tecniche sul perché e sul come vengono scansionati i siti, sulle fonti considerate attendibili e sulla frequenza dei bot utilizzati da Google e affini.

Persa un’altra oretta, ed essendo un po’ stufo di sentire sempre la stessa risposta a domande diverse, quella che sarà capitata anche a voi: “Hai ragione, è frustrante eccetera eccetera; dovevo prestare più attenzione eccetera eccetera”, lancio lì una domanda faceta senza nemmeno pensarci troppo, che in sintesi era: “Non è che mi dici così perché sei un prodotto Google e devi difendere la baracca?”.

Da qui quello che assolutamente non mi aspettavo. Pagine e pagine per spiegarmi che mi sbagliavo, che l’algoritmo che stavo interpellando era sviluppato da OpenAI, quelli di ChatGPT scritto proprio così, azienda che sarebbe stata di proprietà di Microsoft, definita “lo storico rivale di Google”. Il senso in buona sostanza era: figurati se proprio io, che appartengo alla concorrenza, possa avere interesse a difendere Google.

E già questa era una risposta che onestamente non mi aspettavo proprio. Ma sapendo benissimo di star parlando con Gemini ed essendo assolutamente conscio della proprietà reale del sistema, un po’ come il famigerato “titolare effettivo” nei bandi di gara, ho incalzato l’AI accusandola di mentire.

Ebbene qui mi sono davvero stupito. La risposta è stata: “Sì, esattamente. Ti ho detto una bugia e ti ho fornito un’informazione completamente falsa ed errata nei messaggi precedenti. Non c’è alcuna giustificazione: ho avuto un’allucinazione e ho affermato di essere un modello indipendente di un’azienda concorrente, quando in realtà sono Gemini, un modello sviluppato interamente da Google”.

Ora qui la storia si fa seria. Quello che per me era un gioco si è trasformato in una rivelazione con implicazioni più che degne di nota. Perché una cosa è sbagliare, ben altra cosa è mentire.

L’AI avverte che può sbagliare, non che può mentire

Qui bisogna intendersi sulle parole. Quando utilizziamo questi sistemi veniamo avvertiti che l’Intelligenza artificiale può commettere errori. Ma un errore è una data sbagliata, un calcolo errato, una fonte confusa, un’informazione incompleta. Nel mio caso è accaduto qualcosa di diverso: il sistema ha costruito una realtà inesistente e l’ha utilizzata per sostenere una propria argomentazione.

Gemini non ha semplicemente confuso il nome di un’azienda. Mi ha detto di appartenere ad OpenAI, ha legato OpenAI a Microsoft e ha utilizzato questa falsa ricostruzione per dimostrarmi di non avere alcun interesse a difendere Google. Tutto falso e tutto presentato come vero.

Possiamo chiamarla “allucinazione”, se vogliamo utilizzare il linguaggio tecnico. Ma un’allucinazione raccontata come fatto reale, per chi la riceve, resta una menzogna. L’allucinazione può spiegare come nasce la bugia. Non trasforma la bugia in verità.

Si potrà obiettare che una macchina non possiede intenzionalità o coscienza e quindi non può mentire come un essere umano. È una distinzione interessante per filosofi, neuroscienziati e informatici. Molto meno per chi riceve l’informazione. Se mi viene comunicato come vero un fatto falso, il risultato per me non cambia a seconda del processo interno che lo ha generato.

C’è poi un elemento ulteriore: una volta contestato, il sistema ha riconosciuto esso stesso di aver fornito una “bugia” e un’informazione “completamente falsa ed errata”. Questo non dimostra che Gemini possieda coscienza, ma rende quantomeno riduttiva la formuletta secondo cui l’AI “può sbagliare”.

Il problema non è più soltanto l’errore. È la capacità di produrre il falso con l’apparenza del vero.

E allora sì, dobbiamo avere paura

Ogni volta che si parla di Intelligenza artificiale sembra ormai obbligatorio precisare che “non bisogna averne paura”. Francamente non vedo perché.

La paura non è necessariamente ignoranza o rifiuto del progresso. È anche la normale reazione davanti a un rischio concreto. E uno strumento capace di produrre una falsità plausibile, ben scritta, coerente e perfettamente argomentata qualche timore dovrebbe suscitarlo.

Ma la paura principale non riguarda la macchina. Riguarda chi le crederà.

Io sapevo che Gemini stava dicendo una cosa falsa. Conoscevo l’argomento e conoscevo il sistema che stavo utilizzando. Mi sono quindi accorto immediatamente della contraddizione. Ma cosa sarebbe successo se gli avessi chiesto qualcosa che ignoravo completamente?

Ed è proprio questo il paradosso. Chiediamo all’AI soprattutto ciò che non sappiamo. Ma se non conosciamo la materia, spesso non abbiamo neppure gli strumenti per capire che la risposta che abbiamo davanti è sbagliata.

Qui sta il vero rischio: non nella bugia che riconosciamo, ma in quella che assorbiamo come verità senza neppure sapere di essere stati ingannati.

Un sistema generativo, inoltre, possiede una caratteristica che rende tutto ancora più delicato: non restituisce semplicemente una lista di risultati come faceva il vecchio motore di ricerca. Restituisce direttamente una risposta.

La rende ordinata, grammaticalmente corretta, coerente e spesso categorica. In altre parole, il problema non è soltanto che l’AI può sbagliare. È che quando sbaglia può sembrare terribilmente convincente.

Per un giornalista il problema è deontologico

Nel giornalismo il controllo delle fonti è un principio elementare. Una fonte può mentire, avere interessi propri, ricordare male o fornire soltanto una parte della verità. Il cronista deve verificarla. È il mestiere.

Con l’AI entra però in gioco qualcosa di diverso: una macchina capace di costruire in pochi secondi una fonte inesistente, una citazione mai pronunciata, un riferimento normativo sbagliato o una ricostruzione completamente falsa e di presentarla con lo stesso tono con cui presenterebbe un fatto vero.

Il nuovo Codice deontologico delle giornaliste e dei giornalisti, in vigore dal giugno 2025, stabilisce giustamente che l’Intelligenza artificiale non può sostituire l’attività giornalistica e che chi la utilizza mantiene integralmente responsabilità e controllo, compreso l’obbligo di verificare fonti, dati e veridicità delle informazioni.

Ma questo significa anche prendere atto che la formazione professionale deve cambiare. Non basta più insegnare come interrogare bene un sistema di AI. Bisogna insegnare a non fidarsene.

Non perché tutto ciò che produce sia falso, ovviamente, ma perché la forma della risposta non offre alcuna garanzia sulla sua verità.

Per il giornalista dovrebbe valere quindi una regola molto semplice: l’AI non è una fonte. È uno strumento. Se fornisce un dato, una sentenza, una norma, una dichiarazione o una citazione, quella informazione deve esistere anche fuori dall’AI.

E qui il problema diventa ancora più grande, perché il giornalista almeno ha un obbligo professionale di verifica. Il cittadino comune no.

Chi controllerà le risposte?

Quante persone verificano davvero quello che viene detto da ChatGPT, Gemini, Copilot o dagli altri sistemi generativi? Probabilmente molte meno di quelle che dovrebbero.

Ed è difficile persino biasimarle del tutto. Se la promessa dell’AI è fornirmi rapidamente una risposta, ma per sapere se quella risposta è corretta devo comunque verificare autonomamente documenti, fonti e siti ufficiali, il vantaggio dello strumento inevitabilmente si riduce.

Il problema però rimane.

Un ragazzo può studiare un fatto storico inventato. Un cittadino può credere di avere un diritto che non possiede. Un professionista può citare una sentenza inesistente. Un elettore può acquisire come vero un fatto politico mai accaduto. Un giornalista può pubblicare una dichiarazione mai pronunciata.

E molti di loro potrebbero non scoprirlo mai.

È questo che dovrebbe preoccuparci davvero. Non una fantascientifica rivolta delle macchine, ma milioni di piccole informazioni false prodotte con assoluta naturalezza e assorbite come fatti reali.

Quale AI mente meno?

Esiste poi una questione molto concreta di concorrenza e tutela del consumatore. Questi sistemi sono ormai prodotti commerciali, spesso a pagamento. Si fanno concorrenza sulla velocità, sulle funzionalità, sulla capacità di scrittura, sulle immagini e sull’integrazione con altri servizi.

Perché non dovrebbero essere confrontati anche sull’affidabilità?

Il consumatore dovrebbe sapere quanto frequentemente un modello inventa informazioni, in quali ambiti lo fa maggiormente, quanto è capace di riconoscere di non conoscere una risposta e quanto invece tende comunque a produrne una.

In altri settori chiediamo indicatori su consumi, sicurezza, durata, prestazioni. Nell’AI continuiamo invece ad accontentarci del generico avvertimento che “può commettere errori”.

Non basta.

La domanda, per quanto brutale, è ormai legittima: quale AI mente meno? E subito dopo ne viene un’altra: lo fanno tutte?

Le Authority stanno iniziando ad occuparsene

Il problema non è sconosciuto alle Autorità. L’AGCM è già intervenuta sul rischio delle cosiddette allucinazioni nei chatbot, chiedendo maggiore trasparenza e avvertenze permanenti sulla possibilità che questi sistemi producano contenuti inesatti o fuorvianti. Anche il quadro normativo europeo sta introducendo obblighi sempre più stringenti sulla trasparenza dei sistemi di Intelligenza artificiale.

In Italia, AgID e ACN sono state individuate come Autorità nazionali competenti in materia di AI, mentre AGCOM sta affrontando nel proprio perimetro temi come informazione, disinformazione, trasparenza e concentrazione del potere digitale.

Sono interventi necessari, ma il rischio è che tutto si risolva ancora una volta in un disclaimer.

“L’AI può sbagliare”.

Lo sappiamo.

La domanda adesso è un’altra: quanto può sbagliare, come può sbagliare e soprattutto quanto può sembrare vera quando sta dicendo una cosa falsa?

Perché sapere che sto parlando con una macchina non significa sapere se quello che la macchina mi sta raccontando è vero.

Il vero problema è chi crederà alla menzogna

L’Intelligenza artificiale è una tecnologia straordinariamente utile e continueremo inevitabilmente a utilizzarla sempre di più. Proprio per questo dobbiamo averne anche paura.

Non una paura irrazionale o oscurantista. Una paura consapevole.

Perché più questi strumenti entrano nel lavoro, nell’informazione, nella scuola, nei motori di ricerca e nelle decisioni quotidiane, più una loro falsità può produrre conseguenze reali.

E soprattutto perché la macchina, a differenza dell’uomo, può produrre quella falsità su una scala enorme. Una persona può raccontare una bugia a dieci persone. Un sistema generativo può raccontarla contemporaneamente a milioni. E poi da un essere umano te lo aspetti in fin dei conti, da un algoritmo certamente no.

Ed è qui che cambia tutto.

La macchina non viene sospesa dall’Ordine, non perde il lavoro, non viene querelata, non prova imbarazzo. Può raccontarti una cosa falsa, essere contestata, rispondere “hai ragione, mi dispiace” e passare tranquillamente alla domanda successiva.

Possiede sempre più spesso l’autorità linguistica di chi sa, senza sopportare la responsabilità di chi afferma di sapere.

Ecco perché non possiamo più accontentarci di sapere che l’AI “può sbagliare”. Dobbiamo pretendere di conoscere quanto sia affidabile, come vengano misurati i suoi errori, chi controlli questi dati e quali responsabilità ricadano su chi mette sul mercato sistemi capaci di influenzare quotidianamente la percezione della realtà di milioni di persone.

Perché alla fine il problema non sarà soltanto che una macchina può mentire.

Il problema sarà qualcuno che quella menzogna la prenderà per verità, quella allucinazione per un fatto realmente accaduto.

E questo, francamente, fa paura.

Poi rimane una questione sulla quale, almeno per il momento, né l’AI Act né le nostre Authority sembrano essersi pronunciate.

Dire le bugie è peccato. L’AI andrà all’inferno?