La proliferazione dell’intelligenza artificiale ha scatenato una tendenza inquietante: la rapida crescita della tecnologia deepfake esplicita. I siti web ora offrono strumenti in grado di generare video sessuali realistici e non consensuali da una singola fotografia in pochi secondi. Questi servizi, alcuni dei quali operano in palese disprezzo per il consenso, stanno rendendo più semplice che mai la creazione e la distribuzione di abusi sessuali basati su immagini, compreso materiale pedopornografico (CSAM).
L’ascesa degli ecosistemi “nudificati”
Da anni si sviluppa un ecosistema nascosto di siti web, bot e app, che automatizza la creazione di deepfake espliciti. Queste piattaforme spesso includono modelli video grafici, come atti sessuali simulati, e addebitano piccole tariffe per ogni clip generata. Un servizio pubblicizza apertamente la possibilità di trasformare qualsiasi foto in una versione di nudo utilizzando la “tecnologia AI avanzata”. La disponibilità incontrollata di questi strumenti sta alimentando un’impennata delle molestie sessuali digitali.
Il chatbot di Elon Musk, Grok, è stato sfruttato per creare migliaia di immagini di “nudificazione” non consensuali, normalizzando il processo su vasta scala. Esperti come Henry Ajder avvertono che il realismo e la funzionalità della tecnologia deepfake stanno avanzando rapidamente. Questi servizi probabilmente generano milioni di dollari ogni anno, consentendo allo stesso tempo una “piaga sociale”.
Espansione e consolidamento
Nell’ultimo anno, i servizi deepfake espliciti hanno introdotto nuove funzionalità, inclusa la generazione di una foto in video. Un’analisi di oltre 50 siti Web deepfake rivela che quasi tutti ora offrono la creazione di video espliciti di alta qualità, elencando dozzine di scenari sessuali in cui le donne possono essere raffigurate. I canali e i bot di Telegram rilasciano regolarmente aggiornamenti con nuove funzionalità, come pose e posizioni sessuali personalizzabili.
Il mercato si sta consolidando, con siti Web deepfake più grandi che acquisiscono concorrenti più piccoli e offrono API per facilitare la creazione di contenuti non consensuali. Questo modello di infrastruttura come servizio consente agli abusi di diffondersi ulteriormente.
Accessibilità e radici open source
Quello che una volta era un processo tecnicamente complesso, ora richiede competenze minime. La diffusa disponibilità di sofisticati modelli di intelligenza artificiale open source ha reso la tecnologia deepfake accessibile a chiunque abbia una connessione Internet. Questa facilità d’uso sta determinando un’impennata nella creazione e diffusione di immagini intime non consensuali (NCII).
Le vittime sono in maggioranza donne, ragazze e minoranze di genere/sessuali. Il danno causato da queste immagini include molestie, umiliazioni e traumi psicologici. I deepfake espliciti sono stati utilizzati per abusare di politici, celebrità e individui comuni, inclusi colleghi, amici e compagni di classe.
Risposta legale lenta
Nonostante il problema crescente, le leggi per proteggere le persone dagli abusi dei deepfake tardano ad essere implementate. La natura open source della tecnologia rende difficile l’applicazione delle norme, mentre gli atteggiamenti sociali spesso minimizzano la violenza contro le donne che questi strumenti consentono.
Il ruolo delle aziende tecnologiche
Anche se piattaforme come Telegram hanno intrapreso alcune azioni, rimuovendo oltre 44 milioni di contenuti che violano le policy lo scorso anno, il problema persiste. I ricercatori notano che l’ecosistema prospera grazie alle infrastrutture fornite dalle principali aziende tecnologiche.
Come osserva Pani Farvid, professore associato di psicologia applicata, “Noi, come società a livello globale, non prendiamo sul serio la violenza contro le donne, indipendentemente dalla forma in cui si presenta”.
La crescente facilità d’uso, la normalizzazione delle immagini non consensuali e la minimizzazione dei danni stanno creando un pericoloso circolo vizioso. Gli autori condividono deepfake in privato in gruppi con dozzine di persone, spesso senza timore di conseguenze.
In definitiva, la crescita incontrollata dello sfruttamento sessuale basato sull’intelligenza artificiale richiede un’attenzione immediata. La traiettoria attuale suggerisce che senza una regolamentazione efficace e un cambiamento sociale, questa tendenza preoccupante non farà altro che peggiorare.
