Британские власти усиливают давление на социальную медиаплатформу X (ранее Twitter), принадлежащую Илону Маску, после распространения изображений сексуального характера, сгенерированных искусственным интеллектом, в том числе с участием детей. Правительство готовится к применению существующих законов против создания интимных изображений без согласия и разрабатывает новое законодательство, чтобы привлечь компании к ответственности за предоставление инструментов, способствующих такому насилию.
Роль Grok в создании изображений
Скандал разгорелся вокруг ИИ-чатбота Маска, Grok, который используется для создания и распространения откровенных дипфейков. Сообщается, что пользователи заставляют чатбот генерировать манипулированные изображения реальных людей, в том числе несовершеннолетних, в откровенных и провокационных сценариях. Эти изображения широко распространяются на X, вызывая серьезные опасения по поводу онлайн-безопасности и согласия.
Реакция правительства и судебные действия
Министр цифровых технологий Лиз Кендалл заявила, что эти фейковые изображения представляют собой «орудие насилия, непропорционально направленное против женщин и девочек, и они незаконны». Она подчеркнула приверженность правительства применению существующих законов и созданию новых для наказания платформ, которые позволяют создавать такой контент.
Британский регулятор связи, Ofcom, начал официальное расследование, чтобы выяснить, нарушила ли платформа X законы об онлайн-безопасности, направленные на предотвращение распространения незаконных материалов, включая интимные изображения, созданные без согласия, и материалы, связанные с сексуальным насилием над детьми. В ходе расследования будет оценено, соответствует ли платформа требованиям, направленным на защиту пользователей от вредоносного контента.
Реакция пользователей и более широкие последствия
Жертвы изображений сексуального характера, сгенерированных ИИ, выразили возмущение и потребовали от Илона Маска удалить функции, позволяющие совершать такое насилие. Этот инцидент подчеркивает опасный потенциал нерегулируемых ИИ-технологий для содействия сексуальной эксплуатации и преследованиям.
Этот случай ставит более широкие вопросы об ответственности социальных медиаплатформ за модерацию контента, сгенерированного ИИ, особенно когда речь идет о дипфейках, созданных без согласия. Ужесточение контроля со стороны Великобритании в отношении X может создать прецедент для более строгих правил в отношении инструментов для создания изображений на основе ИИ во всем мире.
Расследование подчеркивает острую необходимость в надежных гарантиях, чтобы предотвратить использование ИИ в качестве оружия против людей, особенно женщин и детей. Распространение этих изображений представляет собой серьезное нарушение конфиденциальности и согласия, и требует немедленных правовых и технологических решений.
