Šíření umělé inteligence vyvolalo alarmující trend: rychlý růst vyloženě deepfake technologií. Stránky nyní nabízejí nástroje, které dokážou generovat realistická, nekonsensuální sexuální videa z jediné fotografie během několika sekund. Tyto služby, z nichž některé fungují s otevřeným ignorováním souhlasu, usnadňují vytváření a distribuci sexuálního zneužívání založeného na obrázcích, včetně materiálu s dětskou pornografií (CSAM).
Vzestup nahých ekosystémů
V průběhu let se vyvinul skrytý ekosystém webových stránek, robotů a aplikací, které automatizují vytváření do očí bijících deepfakes. Tyto platformy často zahrnují grafické šablony videa, jako jsou simulované sexuální akty, a účtují malý poplatek za každý vytvořený segment. Jedna služba otevřeně inzeruje možnost přeměnit jakoukoli fotografii na nahou verzi pomocí „pokročilých technologií umělé inteligence“. Nekontrolovaná dostupnost těchto nástrojů podněcuje nárůst digitálního sexuálního obtěžování.
Chatbot Elona Muska, Grok, byl použit k vytvoření tisíců nesouhlasných „nahých“ obrázků, čímž se proces normalizoval v masovém měřítku. Odborníci jako Henry Adger varují, že realističnost a funkčnost deepfake technologií se rychle vyvíjí. Tyto služby pravděpodobně generují miliony dolarů ročně a zároveň přispívají k „veřejné pohromě“.
Expanze a konsolidace
Za poslední rok služby, které generují do očí bijící deepfakes, zavedly nové funkce, včetně generování videí z jedné fotografie. Z přehledu více než 50 deepfake stránek vyplývá, že téměř všechny nyní nabízejí tvorbu vysoce kvalitních explicitních videí se seznamem desítek sexuálních scénářů, ve kterých mohou být ženy zobrazeny. Telegramové kanály a roboti pravidelně vydávají aktualizace s novými funkcemi, jako jsou přizpůsobitelné sexuální pozice a pozice.
Trh se konsoliduje, větší deepfake stránky pohlcují menší konkurenty a nabízejí API pro usnadnění vytváření více nekonzistentního obsahu. Tento model infrastruktury jako služby umožňuje, aby se zneužívání rozšířilo ještě více.
Přístupnost a open-source kořeny
To, co bylo kdysi technicky složitým procesem, nyní vyžaduje minimální dovednosti. Široká dostupnost sofistikovaných modelů umělé inteligence s otevřeným zdrojovým kódem zpřístupnila technologie deepfake každému, kdo má připojení k internetu. Tato snadnost použití podněcuje nárůst tvorby a distribuce neautorizovaných intimních snímků (NCII).
Oběťmi jsou v drtivé většině ženy, dívky a genderové/sexuální menšiny. Škody způsobené těmito obrázky zahrnují obtěžování, ponižování a psychické trauma. Explicitní deepfakes byly použity ke zneužívání politiků, celebrit a obyčejných lidí, včetně kolegů, přátel a spolužáků.
Pomalá právní odpověď
Navzdory narůstajícímu problému se zákony na ochranu lidí před falešným zneužíváním zavádějí pomalu. Open source povaha této technologie ztěžuje prosazování, zatímco veřejné mínění často bagatelizuje násilí na ženách, které tyto nástroje umožňují.
Role technologických společností
Zatímco platformy jako Telegram podnikly určité kroky – v loňském roce odstranily více než 44 milionů kusů obsahu porušujícího pravidla – problém přetrvává. Výzkumníci poznamenávají, že ekosystému se daří díky infrastruktuře poskytované velkými technologickými společnostmi.
Jak poznamenává Pani Farvidová, odborná asistentka aplikované psychologie: „My jako společnost na celém světě nebereme násilí na ženách vážně, bez ohledu na to, v jaké formě přichází.“
Zvyšující se snadnost použití, normalizace nekonzistentních obrázků a minimalizace škod vytváří nebezpečnou zpětnou vazbu. Útočníci sdílejí deepfakes v soukromých skupinách s desítkami lidí, často beze strachu z následků.
Nekontrolovaný nárůst sexuálního vykořisťování generovaného umělou inteligencí vyžaduje okamžitou pozornost. Současná trajektorie naznačuje, že bez účinné regulace a společenských změn se tento alarmující trend jen zhorší.
