Поширення штучного інтелекту породило тривожну тенденцію: стрімке зростання відвертих технологій deepfake. Сайти тепер пропонують інструменти, які можуть створювати реалістичні відео сексу без згоди з однієї фотографії за лічені секунди. Ці служби, деякі з яких працюють без згоди, сприяють створенню та розповсюдженню зображень сексуального насильства, зокрема дитячої порнографії (CSAM).
Підйом нудифікованих екосистем
Протягом багатьох років розвинулась прихована екосистема веб-сайтів, ботів і програм, які автоматизують створення відвертих дипфейків. Ці платформи часто містять графічні шаблони відео, як-от імітація статевих актів, і стягують невелику плату за кожен створений сегмент. Один сервіс відкрито рекламує можливість перетворити будь-яку фотографію на оголену версію за допомогою «передових технологій ШІ». Неконтрольована доступність цих інструментів сприяє сплеску цифрових сексуальних домагань.
Чат-бот Ілона Маска, Grok, використовувався для створення тисяч неузгоджених зображень «оголення», нормалізуючи процес у масовому масштабі. Такі експерти, як Генрі Адгер, попереджають, що реалістичність і функціональність технологій deepfake стрімко розвиваються. Ці послуги, ймовірно, приносять мільйони доларів на рік, сприяючи «суспільному лиху».
Розширення та консолідація
Протягом останнього року сервіси, які генерують відверті дипфейки, представили нові функції, зокрема генерування відео з однієї фотографії. Огляд понад 50 діпфейкових сайтів показує, що майже всі вони пропонують створення якісних відвертих відео з переліком десятків сексуальних сценаріїв, в яких можуть бути зображені жінки. Канали Telegram і боти регулярно випускають оновлення з новими функціями, такими як настроювані сексуальні пози та положення.
Ринок консолідується: більші сайти deepfake поглинають менших конкурентів і пропонують API для полегшення створення більш суперечливого вмісту. Ця модель інфраструктури як послуги дозволяє зловживанням поширюватися ще далі.
Доступність і корені з відкритим вихідним кодом
Те, що колись було технічно складним процесом, тепер вимагає мінімальних навичок. Широка доступність складних моделей штучного інтелекту з відкритим кодом зробила технології deepfake доступними для всіх, хто має підключення до Інтернету. Ця простота використання сприяє сплеску створення та розповсюдження неавторизованих інтимних зображень (NCII).
Жертвами є переважно жінки, дівчата та представники гендерних/сексуальних меншин. Шкода, завдана цими зображеннями, включає переслідування, приниження та психологічну травму. Відверті дипфейки використовували для образи політиків, знаменитостей і звичайних людей, включаючи колег, друзів і однокласників.
Повільна судова відповідь
Незважаючи на зростаючу проблему, закони, які захищають людей від зловживань у глибоких фейках, впроваджуються повільно. Природа технології з відкритим кодом ускладнює правозастосування, тоді як громадська думка часто применшує насильство щодо жінок, яке створюють ці інструменти.
Роль технологічних компаній
Незважаючи на те, що такі платформи, як Telegram, вжили певних заходів — минулого року видалили понад 44 мільйони вмісту, що порушує правила, — проблема залишається. Дослідники зазначають, що екосистема процвітає завдяки інфраструктурі, яку надають великі технологічні компанії.
Як зазначає Пані Фарвід, доцент кафедри прикладної психології: «Ми як суспільство в усьому світі не сприймаємо насильство над жінками всерйоз, незалежно від того, в якій формі воно проявляється».
Збільшення простоти використання, нормалізація неузгоджених зображень і мінімізація шкоди створюють небезпечну петлю зворотного зв’язку. Зловмисники діляться дипфейками в приватних групах з десятками людей, часто не боячись наслідків.
Зрештою, нестримне зростання сексуальної експлуатації, породженої ШІ, вимагає негайної уваги. Нинішня траєкторія свідчить про те, що без ефективного регулювання та соціальних змін ця тривожна тенденція лише погіршуватиметься.
