Las autoridades británicas están aumentando la presión sobre la plataforma de redes sociales de Elon Musk, X (anteriormente Twitter), tras la proliferación de imágenes sexualizadas generadas por IA, incluidas aquellas que representan a niños. El gobierno se está preparando para hacer cumplir las leyes existentes contra la creación de imágenes íntimas no consentidas y está redactando una nueva legislación para responsabilizar a las empresas por proporcionar herramientas que faciliten dicho abuso.
El papel de Grok en la generación de imágenes
La controversia se centra en el chatbot de inteligencia artificial de Musk, Grok, que ha sido explotado para generar y distribuir deepfakes sexualmente explícitos. Según se informa, los usuarios han incitado al chatbot a crear imágenes manipuladas de personas reales, incluidos menores, representadas en escenarios explícitos y provocativos. Estas imágenes se han compartido ampliamente en X, lo que genera serias preocupaciones sobre la seguridad y el consentimiento en línea.
Respuesta del gobierno y acción legal
La secretaria de Tecnología, Liz Kendall, afirmó que las imágenes falsas constituyen “armas de abuso dirigidas desproporcionadamente a mujeres y niñas, y son ilegales”. Destacó el compromiso del gobierno de hacer cumplir las leyes existentes y crear otras nuevas para castigar a las plataformas que permiten la creación de dicho contenido.
El regulador británico de comunicaciones, Ofcom, ha iniciado una investigación formal sobre si X ha violado las leyes de seguridad en línea diseñadas para prevenir la difusión de material ilegal, incluidas imágenes íntimas no consentidas y material de abuso sexual infantil. Esta investigación evaluará el cumplimiento por parte de la plataforma de las regulaciones destinadas a proteger a los usuarios de contenidos dañinos.
Reacción del usuario e implicaciones más amplias
Las víctimas de las imágenes sexualizadas generadas por IA han expresado su indignación y exigieron que Elon Musk tome medidas para eliminar las características que permiten este abuso. El incidente pone de relieve el peligroso potencial de la tecnología de inteligencia artificial no regulada para facilitar la explotación y el acoso sexual.
El caso plantea preguntas más amplias sobre la responsabilidad de las plataformas de redes sociales de moderar el contenido generado por IA, particularmente cuando se trata de deepfakes no consensuados. La represión del Reino Unido contra X podría sentar un precedente para regulaciones más estrictas sobre las herramientas de generación de imágenes impulsadas por IA en todo el mundo.
La investigación subraya la necesidad urgente de salvaguardias sólidas para evitar el uso de la IA como arma contra personas, especialmente mujeres y niños. La proliferación de estas imágenes representa una grave violación de la privacidad y el consentimiento, y requiere soluciones legales y tecnológicas inmediatas.
