Deepfake, l’IA ora scopre i video falsi. Ma chi ci dirà quali sono veri?

Un video può sembrare autentico ed essere costruito interamente dall’intelligenza artificiale, ma come riconoscere un deepfake da un documento reale? Oggi esiste anche il problema opposto: immagini reali che finiscono sotto accusa perché considerate artificiali. I nuovi sistemi di riconoscimento promettono risultati sorprendenti. Quanto possiamo fidarci?

Fino a qualche anno fa, per capire che un filmato era stato manipolato bastava osservare le espressioni del protagonista. Un sorriso innaturale, qualche movimento improbabile, le labbra fuori sincrono rispetto alla voce. Oggi quei piccoli indizi stanno diventando sempre meno utili. E riconoscere un deepfake può essere complicato persino per chi lavora quotidianamente con immagini e tecnologie digitali.

Il cambiamento è più profondo di quanto suggeriscano le impressionanti prestazioni dei generatori di video. Quando chiunque può fabbricare una dichiarazione, simulare un’intervista o attribuire parole mai pronunciate a una persona, non viene compromessa soltanto l’affidabilità dei contenuti falsificati. A finire sotto pressione è la credibilità delle immagini come testimonianza dei fatti.

Per contrastare questa deriva stanno arrivando strumenti di analisi sempre più sofisticati. Alcuni cercano tracce lasciate dagli algoritmi, altri verificano la provenienza dei file attraverso certificazioni digitali. La tecnologia, insomma, prova a riparare un problema che essa stessa ha contribuito a creare.

Ma c’è una domanda sulla quale vale la pena soffermarsi: un software che riconosce un falso è sufficiente a restituirci fiducia nella realtà?

Deepfake, perché distinguere un video vero da uno falso è diventato così difficile

La parola deepfake indica generalmente contenuti audiovisivi prodotti o modificati attraverso tecniche di intelligenza artificiale capaci di rappresentare persone, situazioni o comportamenti mai avvenuti nella forma mostrata.

Le applicazioni possibili sono molto diverse. Si può sostituire il volto di un individuo, riprodurne artificialmente la voce oppure creare un’intera scena senza utilizzare una telecamera. Non tutte queste operazioni hanno finalità ingannevoli: cinema, satira e intrattenimento impiegano legittimamente strumenti di sintesi digitale. Il problema nasce quando la manipolazione viene presentata come una testimonianza autentica.

A fotografare le difficoltà del riconoscimento è lo studio accademico DF26: We Cannot Tell Fake From Real Anymore, pubblicato nel settembre 2026.

I ricercatori hanno costruito un insieme di prova comprendente 271 filmati autentici e 2.420 video sintetici, realizzati attraverso sette modelli generativi moderni. Il materiale riproduce situazioni particolarmente delicate per la comunicazione pubblica: persone che parlano davanti a una telecamera, interventi istituzionali e interviste.

I risultati evidenziano quanto sia difficile identificare correttamente le produzioni artificiali. Nei test sugli esseri umani, il riconoscimento dei video falsi appartenenti al nuovo insieme di prova si è fermato al 52,6%, poco sopra la probabilità di indovinare casualmente in una classificazione binaria.

La difficoltà non riguarda esclusivamente gli osservatori. Anche diversi sistemi automatici mostrano problemi quando vengono sottoposti a filmati prodotti con tecnologie differenti da quelle utilizzate durante l’addestramento.

Il punto è che i falsi cambiano più velocemente delle nostre abitudini di riconoscimento. E ciò che ieri appariva artificiale oggi può essere perfettamente credibile.

Pangram entra nella sfida: che cosa significa davvero il 98% di accuratezza

In questo scenario si inserisce la nuova generazione di strumenti presentata il 4 novembre 2026 da Pangram, società specializzata nell’individuazione di contenuti prodotti con intelligenza artificiale.

Le novità principali sono due: Pangram Image 1.0, dedicato all’analisi delle fotografie, e Pangram Image Flash 1.0, progettato anche per esaminare i filmati.

La caratteristica più interessante non consiste soltanto nell’indicare se un contenuto potrebbe essere sintetico. Il software può mostrare dove si concentrano gli elementi sospetti, attraverso una rappresentazione grafica comunemente chiamata heatmap, ovvero mappa di calore.

Per le immagini significa evidenziare specifiche aree che presentano segnali riconducibili alla generazione artificiale. Nei video, invece, il sistema esamina i singoli fotogrammi per individuare i passaggi potenzialmente alterati.

Un approccio utile soprattutto quando il materiale non è completamente falso. Un filmato autentico potrebbe contenere un elemento inserito artificialmente oppure una breve sequenza modificata. In simili circostanze, una semplice etichetta che classifichi l’intero file come vero o falso rischia di risultare poco informativa.

I numeri comunicati dall’azienda attirano inevitabilmente l’attenzione. Pangram dichiara una accuratezza bilanciata del 98% su 1.529 video, comprendenti registrazioni reali e contenuti prodotti con 14 generatori differenti. Per il modello dedicato alle fotografie riferisce invece un’accuratezza del 99,96% su un proprio insieme di valutazione formato da 100 fotografie autentiche e 1.200 immagini sintetiche.

Il modello video Flash avrebbe inoltre raggiunto il 98,7% sul benchmark accademico DF26, secondo i risultati pubblicati dalla società.

Attenzione, però: questi valori sono dichiarazioni dell’azienda riferite a specifiche condizioni sperimentali. Non equivalgono alla garanzia di riconoscere correttamente qualsiasi contenuto circoli su Internet.

Il limite dei rilevatori IA: un risultato impressionante non è una sentenza

Per comprendere il problema bisogna distinguere tra le prestazioni ottenute durante una valutazione controllata e quelle che un sistema può raggiungere nell’utilizzo quotidiano.

Un video pubblicato sui social viene spesso compresso, ridimensionato, ritagliato e ricondiviso. Può attraversare diverse piattaforme, perdere informazioni tecniche oppure essere sottoposto a ulteriori modifiche. Tutti questi interventi rendono più complessa l’analisi.

Pangram sostiene di avere sviluppato modelli resistenti anche ad alcune di queste trasformazioni. Per le immagini con risoluzione inferiore a 512 pixel, tuttavia, la stessa azienda prevede un avviso che segnala una minore affidabilità del risultato.

Esiste poi una difficoltà statistica che merita di essere spiegata.

Immaginiamo che un sistema segnali erroneamente come manipolata una fotografia autentica. Se quella fotografia viene utilizzata per documentare un episodio di cronaca, il giudizio automatico potrebbe alimentare accuse infondate o contribuire a screditare una testimonianza.

È il problema dei falsi positivi. Esiste anche quello opposto: un contenuto artificiale che il rilevatore non riesce a individuare.

Un’accuratezza molto elevata, quindi, non racconta necessariamente quanti errori verranno commessi in ogni situazione concreta. Contano la composizione del materiale esaminato, la frequenza dei falsi, le condizioni tecniche dei file e la capacità del modello di riconoscere generatori sconosciuti.

Una revisione scientifica pubblicata nel 2026 su Artificial Intelligence Review richiama proprio i problemi di generalizzazione e robustezza dei sistemi di rilevamento. La ricerca evidenzia i limiti degli insiemi di dati utilizzati per le valutazioni e la necessità di metodi più affidabili per i contesti reali.

In altre parole, un rilevatore può fornire un indizio prezioso, ma non dovrebbe diventare un giudice automatico dell’autenticità.

Non basta scoprire i falsi: ora bisogna dimostrare che i video autentici sono veri

La conseguenza più inquietante della diffusione dei deepfake riguarda qualcosa che fino a poco tempo fa sembrava quasi scontato: il valore di una registrazione come prova.

Supponiamo che venga diffuso un filmato autentico nel quale un personaggio pubblico pronuncia una frase compromettente. In passato la discussione avrebbe riguardato soprattutto il contesto, il significato delle parole e l’affidabilità della fonte.

Oggi chi compare nel video può sostenere che sia stato prodotto dall’intelligenza artificiale. E una parte del pubblico potrebbe credergli anche in assenza di elementi concreti.

È un fenomeno conosciuto nel dibattito scientifico come liar’s dividend, espressione che descrive il vantaggio ottenuto da chi sfrutta l’esistenza dei falsi digitali per mettere in dubbio prove autentiche.

Il rischio riguarda la politica, certamente, ma anche le controversie giudiziarie, le indagini giornalistiche e i rapporti professionali.

Le dimensioni del problema emergono anche dal Global Risks Report 2026 del World Economic Forum. Nel rapporto, disinformazione e informazione ingannevole occupano il secondo posto tra i rischi globali considerati più gravi nell’orizzonte dei due anni successivi.

Lo stesso documento richiama un’indagine del Reuters Institute secondo cui il 58% degli intervistati a livello mondiale si dichiara preoccupato per la difficoltà di distinguere le notizie vere da quelle false online.

Il dato descrive una fragilità che supera il singolo contenuto manipolato. Quando la sfiducia diventa sistematica, anche l’informazione corretta perde parte della propria forza.

Content Credentials e C2PA: la nuova carta d’identità dei contenuti digitali

Per affrontare questo scenario, diverse grandi aziende tecnologiche stanno lavorando su una soluzione complementare ai rilevatori: registrare la provenienza dei contenuti sin dalla loro creazione.

È l’obiettivo della Coalition for Content Provenance and Authenticity, conosciuta con la sigla C2PA, iniziativa sostenuta da organizzazioni e imprese tra cui Adobe, Microsoft, Google, Sony, BBC e OpenAI.

Il sistema utilizza uno standard aperto per associare ai contenuti informazioni verificabili sulla loro origine e sulle eventuali trasformazioni successive.

Queste informazioni vengono comunemente chiamate Content Credentials. Possono indicare, per esempio, quale strumento ha prodotto un’immagine, se il materiale è stato modificato e quali passaggi risultano registrati nella sua storia digitale.

La protezione si basa anche su firme crittografiche, che consentono di verificare l’integrità delle informazioni associate al file.

Il vantaggio è evidente. Invece di cercare esclusivamente tracce di manipolazione quando il video è già diventato virale, si prova a costruire una catena documentabile che accompagni il materiale dalla produzione alla distribuzione.

Ma sarebbe sbagliato considerare questi certificati una prova assoluta di verità.

La stessa documentazione tecnica C2PA chiarisce che una provenienza verificabile non garantisce che quanto rappresentato sia realmente accaduto. Un contenuto può essere accompagnato da credenziali valide e trasmettere comunque informazioni false o fuorvianti.

Inoltre, l’assenza delle credenziali non dimostra automaticamente una falsificazione. Operazioni come conversioni, screenshot o rimozione dei metadati possono interrompere la disponibilità di alcune informazioni.

È una distinzione fondamentale: certificare la storia di un file non significa certificare la verità della storia che quel file racconta.

Deepfake e legge italiana: il falso digitale può costare fino a cinque anni di carcere

Anche sul piano normativo il tema ha assunto un peso crescente.

Con la legge 132 del 23 settembre 2025, entrata in vigore il 10 ottobre dello stesso anno, l’Italia ha introdotto nel codice penale l’articolo 612-quater, dedicato all’illecita diffusione di contenuti generati o alterati mediante intelligenza artificiale.

La disposizione prevede la reclusione da uno a cinque anni per chi, provocando un danno ingiusto a una persona, diffonde senza il suo consenso immagini, video o voci falsificati o alterati con sistemi di IA, idonei a ingannare sulla loro autenticità.

Non significa che qualsiasi fotografia modificata o filmato sintetico costituisca automaticamente un reato. La norma richiede precisi elementi, tra cui il danno ingiusto, la diffusione senza consenso e l’idoneità del materiale a trarre in inganno.

Un ulteriore intervento è arrivato con il decreto legislativo 160 del 9 settembre 2026, in vigore dal 30 settembre.

Il provvedimento ha esteso il sistema della responsabilità amministrativa degli enti previsto dal decreto legislativo 231/2001 anche a determinate fattispecie collegate all’intelligenza artificiale, compreso il reato disciplinato dall’articolo 612-quater.

Per quest’ultimo, quando ricorrono i presupposti previsti dalla disciplina sulla responsabilità degli enti, sono contemplate sanzioni pecuniarie da 200 a 700 quote, oltre a specifiche misure interdittive.

Il decreto interviene inoltre sull’accesso alle prove nei procedimenti civili riguardanti danni provocati dall’utilizzo di sistemi di intelligenza artificiale.

La legislazione, dunque, prova a individuare responsabilità e strumenti di tutela. Resta però una difficoltà concreta: prima di stabilire le conseguenze giuridiche di una manipolazione occorre riuscire a documentarla adeguatamente.

Come riconoscere un deepfake senza affidarsi ciecamente all’intelligenza artificiale

Che cosa dovrebbe fare, allora, una persona davanti a un video sospetto?

La prima precauzione è evitare di considerare la qualità visiva come prova di autenticità. I sistemi generativi moderni possono riprodurre espressioni facciali, illuminazione e movimenti con un realismo tale da rendere poco attendibili molti vecchi criteri di riconoscimento.

Conviene innanzitutto risalire alla fonte originaria del contenuto. Chi ha pubblicato il filmato per primo? Esiste una registrazione integrale? La stessa scena è documentata da fonti indipendenti? Sono disponibili dichiarazioni ufficiali o materiali originali?

Un secondo passaggio riguarda l’analisi tecnica. I rilevatori automatici possono essere utilizzati per individuare anomalie, ma i risultati devono essere interpretati alla luce dei limiti dichiarati dai produttori.

Quando disponibili, le Content Credentials permettono di esaminare le informazioni sulla provenienza digitale. Anche in questo caso, tuttavia, l’esito della verifica va confrontato con il contesto e con gli altri elementi raccolti.

Per una redazione giornalistica il metodo più solido consiste nel combinare controlli tecnologici e verifica documentale. Conservare il file originale, ricostruirne la circolazione, controllare luoghi e date, consultare fonti attendibili e interpellare le persone coinvolte quando necessario.

C’è poi una responsabilità che riguarda direttamente le piattaforme digitali. Un contenuto ingannevole può raggiungere migliaia di utenti prima che qualcuno ne contesti l’autenticità. La rapidità della condivisione rischia così di rendere tardiva anche una verifica tecnicamente corretta.

La soluzione non può essere soltanto aggiungere un altro algoritmo al processo di pubblicazione. Serve una cultura della verifica capace di distinguere tra sospetto, probabilità e prova.

La battaglia per le immagini è diventata una battaglia per la fiducia

La novità introdotta dai sistemi come Pangram è importante. Analizzare un filmato fotogramma per fotogramma, individuare porzioni artificiali e confrontare contenuti generati con materiali autentici offre nuove possibilità a giornalisti, ricercatori, imprese e professionisti della sicurezza.

Eppure sarebbe ingenuo immaginare che la sfida possa essere risolta definitivamente.

Ogni miglioramento nella capacità di individuare le manipolazioni si confronta con strumenti generativi che continuano a evolversi. Le certificazioni di provenienza aggiungono informazioni preziose, ma non sostituiscono l’accertamento dei fatti. Le leggi definiscono responsabilità, senza poter cancellare automaticamente le conseguenze di una menzogna già diventata virale.

Il rischio più grande, alla fine, potrebbe non essere quello di credere a un video falso.

Potrebbe essere abituarsi all’idea che nessuna immagine meriti più fiducia, nemmeno quando racconta qualcosa che è realmente accaduto.

Per questo la vera partita non consiste soltanto nello sviluppare software capaci di smascherare un deepfake. Consiste nel costruire procedure che permettano di verificare i contenuti senza trasformare ogni registrazione in una prova permanentemente sospetta.

Perché un mondo nel quale si può falsificare qualsiasi cosa è pericoloso. Ma un mondo nel quale qualsiasi verità può essere respinta come falsa rischia di esserlo ancora di più.