Britische Behörden erhöhen den Druck auf Elon Musks Social-Media-Plattform X (ehemals Twitter), nachdem sich von KI generierte sexualisierte Bilder verbreitet haben, darunter solche, die Kinder zeigen. Die Regierung bereitet die Durchsetzung bestehender Gesetze gegen die Erstellung nicht einvernehmlicher intimer Bilder vor und entwirft neue Gesetze, um Unternehmen für die Bereitstellung von Tools zur Rechenschaft zu ziehen, die solchen Missbrauch erleichtern.
Groks Rolle bei der Bilderzeugung
Im Mittelpunkt der Kontroverse steht Musks KI-Chatbot Grok, der zur Generierung und Verbreitung sexuell eindeutiger Deepfakes missbraucht wurde. Berichten zufolge haben Benutzer den Chatbot dazu veranlasst, manipulierte Bilder von echten Personen, darunter auch Minderjährigen, zu erstellen, die in expliziten und provokanten Szenarien dargestellt werden. Diese Bilder wurden auf X häufig geteilt, was ernsthafte Bedenken hinsichtlich der Online-Sicherheit und der Einwilligung aufkommen lässt.
Reaktion der Regierung und rechtliche Schritte
Technologieministerin Liz Kendall erklärte, dass die gefälschten Bilder „Missbrauchswaffen darstellen, die sich unverhältnismäßig stark gegen Frauen und Mädchen richten, und dass sie illegal sind“. Sie betonte das Engagement der Regierung, bestehende Gesetze durchzusetzen und neue zu schaffen, um Plattformen zu bestrafen, die die Erstellung solcher Inhalte ermöglichen.
Die britische Regulierungsbehörde für Kommunikation, Ofcom, hat eine formelle Untersuchung eingeleitet, um festzustellen, ob X gegen Online-Sicherheitsgesetze verstoßen hat, die die Verbreitung illegalen Materials, einschließlich nicht einvernehmlicher intimer Bilder und Material über sexuellen Kindesmissbrauch, verhindern sollen. Bei dieser Untersuchung wird die Einhaltung der Vorschriften zum Schutz der Benutzer vor schädlichen Inhalten durch die Plattform bewertet.
Benutzerreaktion und umfassendere Implikationen
Opfer der von der KI erzeugten sexualisierten Bilder haben ihre Empörung zum Ausdruck gebracht und von Elon Musk Maßnahmen gefordert, um die Funktionen zu entfernen, die diesen Missbrauch ermöglichen. Der Vorfall verdeutlicht das gefährliche Potenzial unregulierter KI-Technologie zur Erleichterung sexueller Ausbeutung und Belästigung.
Der Fall wirft umfassendere Fragen zur Verantwortung von Social-Media-Plattformen für die Moderation von KI-generierten Inhalten auf, insbesondere wenn es sich um nicht einvernehmliche Deepfakes handelt. Das Vorgehen Großbritanniens gegen X könnte einen Präzedenzfall für weltweit strengere Vorschriften für KI-gestützte Bilderzeugungstools schaffen.
Die Untersuchung unterstreicht die dringende Notwendigkeit robuster Schutzmaßnahmen, um den Einsatz von KI als Waffe gegen Einzelpersonen, insbesondere Frauen und Kinder, zu verhindern. Die Verbreitung dieser Bilder stellt eine schwerwiegende Verletzung der Privatsphäre und der Einwilligung dar und erfordert sofortige rechtliche und technische Lösungen.
