De Britse autoriteiten voeren de druk op het sociale mediaplatform van Elon Musk, X (voorheen Twitter), op als gevolg van de verspreiding van door AI gegenereerde geseksualiseerde afbeeldingen, waaronder afbeeldingen van kinderen. De regering bereidt zich voor op het handhaven van bestaande wetten tegen het maken van intieme beelden zonder wederzijds goedvinden, en is bezig met het opstellen van nieuwe wetgeving om bedrijven verantwoordelijk te houden voor het verstrekken van hulpmiddelen die dergelijk misbruik faciliteren.
Grok’s rol bij het genereren van afbeeldingen
De controverse concentreert zich op Musk’s AI-chatbot, Grok, die is uitgebuit om seksueel expliciete deepfakes te genereren en te verspreiden. Gebruikers hebben naar verluidt de chatbot gevraagd om gemanipuleerde afbeeldingen te maken van echte individuen, inclusief minderjarigen, afgebeeld in expliciete en provocerende scenario’s. Deze afbeeldingen zijn op grote schaal gedeeld op X, wat aanleiding gaf tot ernstige zorgen over online veiligheid en toestemming.
Reactie van de overheid en juridische stappen
Technologiesecretaris Liz Kendall verklaarde dat de nepbeelden “misbruikwapens zijn die onevenredig gericht zijn op vrouwen en meisjes, en dat ze illegaal zijn.” Ze benadrukte de inzet van de regering om bestaande wetten te handhaven en nieuwe wetten te creëren om platforms te bestraffen die de creatie van dergelijke inhoud mogelijk maken.
De Britse communicatietoezichthouder Ofcom is een formeel onderzoek gestart naar de vraag of X de onlineveiligheidswetten heeft overtreden die bedoeld zijn om de verspreiding van illegaal materiaal te voorkomen, waaronder intieme afbeeldingen zonder wederzijds goedvinden en materiaal met seksueel misbruik van kinderen. Dit onderzoek zal beoordelen of het platform voldoet aan de regelgeving die bedoeld is om gebruikers te beschermen tegen schadelijke inhoud.
Gebruikersreactie en bredere implicaties
Slachtoffers van de door AI gegenereerde geseksualiseerde beelden hebben hun verontwaardiging geuit en actie geëist van Elon Musk om de kenmerken te verwijderen die dit misbruik mogelijk maken. Het incident benadrukt het gevaarlijke potentieel van ongereguleerde AI-technologie om seksuele uitbuiting en intimidatie te vergemakkelijken.
De zaak roept bredere vragen op over de verantwoordelijkheid van sociale-mediaplatforms om door AI gegenereerde inhoud te modereren, vooral als het om niet-consensuele deepfakes gaat. Het harde optreden van Groot-Brittannië tegen X zou een precedent kunnen scheppen voor strengere regelgeving voor door AI aangedreven tools voor het genereren van afbeeldingen wereldwijd.
Het onderzoek onderstreept de dringende behoefte aan robuuste waarborgen om de bewapening van AI tegen individuen, vooral vrouwen en kinderen, te voorkomen. De verspreiding van deze beelden vormt een ernstige schending van de privacy en de toestemming, en vereist onmiddellijke juridische en technologische oplossingen.
