Rozprzestrzenianie się sztucznej inteligencji spowodowało niepokojący trend: szybki rozwój technologii wręcz deepfake. Witryny oferują teraz narzędzia, które w ciągu kilku sekund mogą wygenerować realistyczne filmy erotyczne bez zgody z jednego zdjęcia. Usługi te, z których niektóre działają bez względu na zgodę, ułatwiają tworzenie i dystrybucję materiałów przedstawiających wykorzystywanie seksualne w oparciu o wizerunek, w tym materiałów z pornografią dziecięcą (CSAM).
Powstanie ekosystemów Nudify
Z biegiem lat rozwinął się ukryty ekosystem stron internetowych, botów i aplikacji, które automatyzują tworzenie rażących deepfake’ów. Platformy te często zawierają graficzne szablony wideo, takie jak symulowane akty seksualne, i pobierają niewielką opłatę za każdy wygenerowany segment. Jedna z usług otwarcie reklamuje możliwość przekształcenia dowolnego zdjęcia w wersję nagą przy użyciu „zaawansowanych technologii sztucznej inteligencji”. Niekontrolowana dostępność tych narzędzi napędza wzrost liczby cyfrowych molestowań seksualnych.
Chatbot Elona Muska, Grok, został wykorzystany do stworzenia tysięcy niezgodnych ze sobą obrazów „nagości”, normalizując proces na masową skalę. Eksperci tacy jak Henry Adger ostrzegają, że realizm i funkcjonalność technologii deepfake szybko ewoluują. Usługi te prawdopodobnie generują miliony dolarów rocznie, przyczyniając się jednocześnie do „plagi publicznej”.
Ekspansja i konsolidacja
W ciągu ostatniego roku serwisy generujące rażące deepfake wprowadziły nowe funkcje, w tym generowanie filmów z jednego zdjęcia. Przegląd ponad 50 witryn zawierających fałszywe treści pokazuje, że prawie wszystkie z nich oferują obecnie tworzenie wysokiej jakości filmów erotycznych, zawierających dziesiątki scenariuszy seksualnych, w których można przedstawiać kobiety. Kanały i boty Telegramu regularnie publikują aktualizacje zawierające nowe funkcje, takie jak konfigurowalne pozy i pozycje seksualne.
Rynek konsoliduje się, a większe witryny zawierające deepfake pożerają mniejszych konkurentów i oferują interfejsy API ułatwiające tworzenie bardziej niespójnych treści. Model infrastruktury jako usługi umożliwia jeszcze dalsze rozprzestrzenianie się nadużyć.
Dostępność i korzenie typu open source
To, co kiedyś było procesem złożonym technicznie, obecnie wymaga minimalnych umiejętności. Powszechna dostępność wyrafinowanych modeli sztucznej inteligencji typu open source sprawiła, że technologie deepfake są dostępne dla każdego, kto ma połączenie z Internetem. Ta łatwość obsługi powoduje gwałtowny wzrost liczby tworzenia i dystrybucji nieautoryzowanych zdjęć intymnych (NCII).
Ofiarami są głównie kobiety, dziewczęta oraz przedstawiciele mniejszości płciowych/seksualnych. Szkody spowodowane przez te obrazy obejmują molestowanie, upokorzenie i traumę psychiczną. Wyraźne deepfake są wykorzystywane do znęcania się nad politykami, celebrytami i zwykłymi ludźmi, w tym kolegami, przyjaciółmi i kolegami z klasy.
Powolna reakcja prawna
Pomimo narastającego problemu, wdrażanie przepisów chroniących ludzi przed nadużyciami typu deepfake odbywa się powoli. Otwarty charakter tej technologii utrudnia egzekwowanie przepisów, a opinia publiczna często bagatelizuje przemoc wobec kobiet, którą umożliwiają te narzędzia.
Rola firm technologicznych
Chociaż platformy takie jak Telegram podjęły pewne działania i usunęły w zeszłym roku ponad 44 miliony treści łamiących zasady, problem nadal występuje. Naukowcy zauważają, że ekosystem rozwija się dzięki infrastrukturze zapewnianej przez duże firmy technologiczne.
Jak zauważa Pani Farvid, adiunkt psychologii stosowanej: „Jako społeczeństwo na całym świecie nie traktujemy poważnie przemocy wobec kobiet, niezależnie od jej formy”.
Zwiększanie łatwości użytkowania, normalizacja niespójnych obrazów i minimalizacja szkód tworzą niebezpieczną pętlę sprzężenia zwrotnego. Atakujący dzielą się deepfakesami w prywatnych grupach z dziesiątkami osób, często bez obawy przed konsekwencjami.
Ostatecznie niekontrolowany wzrost wykorzystywania seksualnego generowanego przez sztuczną inteligencję wymaga natychmiastowej uwagi. Obecna trajektoria sugeruje, że bez skutecznych regulacji i zmian społecznych ta niepokojąca tendencja będzie się tylko pogłębiać.
