Британська влада посилює тиск на соціальну медіа-платформу X (раніше Twitter), що належить Ілону Маску, після поширення зображень відвертого сексуального характеру, згенерованих штучним інтелектом, у тому числі за участю дітей. Уряд готується застосувати існуючі закони проти інтимних зображень без згоди та розробляє нове законодавство, щоб притягнути компанії до відповідальності за надання інструментів, які дозволяють таке насильство.
Роль Грока у створенні іміджу
Скандал розгорівся навколо ШІ-чат-бота Маска Grok, який використовується для створення та розповсюдження відвертих дипфейків. Повідомляється, що користувачі змушують чат-бота створювати маніпульовані зображення реальних людей, у тому числі неповнолітніх, у відвертих і провокаційних сценаріях. Ці зображення широко розповсюджуються на X, що викликає серйозні занепокоєння щодо онлайн-безпеки та згоди.
Реакція уряду та судові дії
Міністр цифрових технологій Ліз Кендалл заявила, що підроблені зображення є «зброєю насильства, яка непропорційно спрямована проти жінок і дівчат, і вони є незаконними». Вона наголосила на зобов’язанні уряду забезпечити виконання існуючих законів і створити нові, щоб покарати платформи, які дозволяють створювати такий контент.
Британський регулятор зв’язку Ofcom розпочав офіційне розслідування щодо порушення Platform X законів про безпеку в Інтернеті, спрямованих на запобігання поширенню незаконних матеріалів, включаючи інтимні зображення без згоди та матеріали сексуального насильства над дітьми. Розслідування оцінить, чи відповідає платформа нормам, спрямованим на захист користувачів від шкідливого контенту.
Реакція користувачів і ширші наслідки
Жертви сексуальних зображень, згенерованих ШІ, висловили обурення та вимагали від Ілона Маска видалити елементи, які дозволяють таке насильство. Цей інцидент підкреслює небезпечний потенціал нерегульованих технологій ШІ для сприяння сексуальній експлуатації та домаганням.
Справа піднімає ширші питання щодо відповідальності платформ соціальних медіа модерувати контент, створений ШІ, особливо коли йдеться про глибокі фейки, створені без згоди. Жорсткіший контроль над X у Великій Британії може створити прецедент для більш суворих правил щодо інструментів обробки зображень штучного інтелекту в усьому світі.
Розслідування підкреслює нагальну потребу в сильних запобіжних заходах, щоб запобігти використанню ШІ як зброї проти людей, особливо жінок і дітей. Розповсюдження цих зображень є серйозним порушенням конфіденційності та згоди та вимагає негайних правових і технологічних рішень.
