Per anni è sembrato uno dei territori più difficili da regolamentare: bastava una fotografia recuperata online, qualche secondo di elaborazione e un software di intelligenza artificiale per creare immagini intime false ma incredibilmente realistiche. Un fenomeno cresciuto nell’ombra, alimentato dalla diffusione delle piattaforme generative e dalla semplicità con cui chiunque, anche senza competenze tecniche, poteva produrre contenuti manipolati destinati a circolare in rete.

Ora però l’Unione europea prova a intervenire in modo diretto. Con il nuovo accordo sull’AI Omnibus, Bruxelles ha introdotto un divieto specifico contro i sistemi di intelligenza artificiale utilizzati per creare contenuti sessuali non consensuali, compresi i cosiddetti deepfake pornografici e le immagini di nudo sintetico generate partendo da fotografie reali.

La misura rappresenta uno dei passaggi più delicati dell’evoluzione normativa europea sull’intelligenza artificiale perché sposta l’attenzione da un approccio puramente tecnologico a una questione più ampia: la tutela della dignità digitale delle persone.

Il problema dei deepfake non riguarda più solo le celebrità

Fino a pochi anni fa il tema dei deepfake sembrava confinato soprattutto a casi eclatanti che coinvolgevano personaggi famosi. Oggi la situazione è profondamente diversa. La democratizzazione degli strumenti di AI generativa ha reso accessibili applicazioni capaci di alterare immagini comuni con una facilità impressionante.

In molti casi è sufficiente caricare una semplice fotografia sui social network per ottenere, nel giro di pochi istanti, immagini esplicite completamente artificiali ma credibili. Il problema non riguarda soltanto l’aspetto tecnico della manipolazione, ma l’impatto concreto che questi contenuti possono avere sulla vita reale delle persone coinvolte.

Privacy violata, danni reputazionali, ricatti, cyberbullismo e diffusione incontrollata online sono diventati elementi centrali del dibattito europeo. Anche perché la rapidità con cui questi materiali possono essere condivisi rende spesso quasi impossibile limitarne la circolazione una volta pubblicati.

Negli ultimi mesi il fenomeno ha assunto dimensioni tali da spingere le istituzioni europee a intervenire direttamente all’interno del quadro normativo dell’AI Act.

Cos’è l’AI Omnibus e perché modifica l’AI Act

L’accordo raggiunto nelle istituzioni europee riguarda il cosiddetto “AI Omnibus”, il pacchetto con cui l’Unione sta correggendo e semplificando alcuni aspetti dell’AI Act, il regolamento destinato a disciplinare l’intelligenza artificiale nel mercato europeo.

L’obiettivo iniziale non era riscrivere la legge, ma renderla più applicabile dal punto di vista operativo. Negli ultimi mesi, infatti, imprese tecnologiche, autorità e operatori del settore avevano evidenziato criticità legate soprattutto alla complessità di alcune definizioni e alla sovrapposizione con altre normative europee già esistenti.

Il sistema dell’AI Act continua a basarsi sulla classificazione del rischio: più un sistema di intelligenza artificiale può incidere su sicurezza, salute o diritti fondamentali, più aumentano obblighi e controlli.

Nel corso del negoziato, tuttavia, il confronto politico si è allargato anche all’uso distorto delle tecnologie generative. Ed è proprio in questa fase che è stato inserito il nuovo divieto relativo ai contenuti sessuali non consensuali prodotti tramite AI.

Una scelta che segna un cambio di passo importante: l’Europa non si limita più a chiedere trasparenza sugli strumenti di intelligenza artificiale, ma interviene direttamente su alcune categorie considerate incompatibili con i diritti fondamentali.

Cosa vietano concretamente le nuove regole europee

La nuova disposizione stabilisce che non potranno essere immessi sul mercato europeo sistemi di intelligenza artificiale progettati per generare immagini, video o audio sessualmente espliciti che coinvolgano persone identificabili senza il loro consenso.

Il divieto non riguarda soltanto chi utilizza materialmente questi strumenti, ma si estende all’intera filiera: progettazione, distribuzione, commercializzazione e sviluppo dei software.

In pratica, le aziende che realizzano modelli generativi dovranno introdurre misure tecniche capaci di impedire la produzione di questo tipo di contenuti.

Le norme comprendono inoltre il materiale pedopornografico generato artificialmente, imponendo obblighi di prevenzione ancora più stringenti.

L’aspetto rilevante è che Bruxelles non interviene esclusivamente sul contenuto finale pubblicato online, ma punta direttamente sull’architettura dei sistemi di AI. È una differenza sostanziale rispetto a molti approcci adottati finora a livello internazionale, spesso concentrati solo sulla rimozione successiva dei materiali.

Il caso Grok e l’allarme sui “deepnude”

La pressione politica sul tema è aumentata anche dopo diverse segnalazioni riguardanti Grok, il modello di intelligenza artificiale sviluppato da xAI, la società legata a Elon Musk.

Negli ultimi mesi ricostruzioni giornalistiche e segnalazioni online hanno evidenziato come alcuni strumenti basati su AI generativa fossero stati utilizzati per creare immagini pornografiche artificiali partendo da fotografie autentiche.

Parallelamente sono esplose le applicazioni conosciute come “deepnude”, software progettati specificamente per trasformare immagini normali in rappresentazioni di nudo sintetico.

Molte di queste piattaforme sono facilmente reperibili online o attraverso store digitali e, secondo diversi osservatori europei, proprio questa accessibilità rappresenta uno dei punti più critici della questione.

Il problema, infatti, non riguarda esclusivamente la sofisticazione tecnica dei modelli, ma la velocità con cui possono essere usati su larga scala da utenti comuni. In altre parole, l’AI generativa ha abbassato drasticamente la soglia d’ingresso per la manipolazione visiva.

Il nodo della tracciabilità dei contenuti creati con AI

L’accordo europeo interviene anche su un altro tema centrale: il watermarking dei contenuti generati artificialmente.

Si tratta dei sistemi di etichettatura digitale pensati per rendere riconoscibili immagini, video e audio prodotti tramite intelligenza artificiale. L’obiettivo è aumentare la trasparenza e facilitare l’identificazione dei contenuti sintetici.

Le nuove regole prevedono che questi obblighi diventino applicabili dal 2 dicembre 2026.

La questione della tracciabilità è considerata strategica perché, con l’evoluzione rapidissima dell’AI generativa, distinguere un contenuto reale da uno artificiale sta diventando sempre più difficile anche per utenti esperti.

Non a caso, molte autorità europee ritengono che la battaglia contro la disinformazione digitale passerà anche dalla capacità di identificare rapidamente materiali alterati o manipolati.

Le nuove scadenze dell’AI Act

Oltre ai divieti sui deepfake sessuali, il pacchetto AI Omnibus modifica anche il calendario di applicazione di diverse disposizioni previste dall’AI Act.

Le norme dedicate ai sistemi di intelligenza artificiale ad alto rischio entreranno in vigore il 2 dicembre 2027 per i sistemi autonomi. Per quelli integrati all’interno di prodotti già regolati da altre normative europee sulla sicurezza, invece, la data slitta al 2 agosto 2028.

L’intenzione dell’Unione europea è concedere più tempo alle aziende per adeguarsi, evitando però che il rinvio rallenti completamente il processo regolatorio.

Perché questa scelta dell’Europa potrebbe avere effetti globali

La decisione europea potrebbe produrre conseguenze ben oltre i confini dell’Unione. Negli ultimi anni Bruxelles ha spesso trasformato le proprie normative digitali in standard di riferimento internazionali, come accaduto con il GDPR sulla privacy.

Anche nel caso dell’intelligenza artificiale, il mercato europeo rappresenta un bacino troppo importante perché le grandi aziende tecnologiche possano ignorarne le regole.

Per questo motivo il divieto dei deepfake sessuali potrebbe spingere molte piattaforme globali a modificare direttamente i propri sistemi di sicurezza e moderazione, introducendo limitazioni che finirebbero per avere effetti anche fuori dall’Europa.

In gioco non c’è soltanto il controllo di una tecnologia emergente. Il vero tema è capire fino a che punto le società democratiche siano disposte ad accettare strumenti capaci di alterare identità, immagini e reputazioni con un livello di realismo sempre più difficile da distinguere dalla realtà.