Britské úřady zvyšují tlak na platformu sociálních médií X (dříve Twitter), kterou vlastní Elon Musk, poté, co se rozšířily sexuálně explicitní obrázky generované umělou inteligencí, včetně těch, které zahrnují děti. Vláda se připravuje na prosazení stávajících zákonů proti nesouhlasným intimním snímkům a připravuje novou legislativu, aby společnosti byly odpovědné za poskytování nástrojů, které takové násilí umožňují.
Grokova role při vytváření obrázků
Skandál propukl kolem Muskova chatbota Groka s umělou inteligencí, který se používá k vytváření a distribuci do očí bijících deepfakes. Uživatelé údajně nutí chatbota generovat zmanipulované obrázky skutečných lidí, včetně nezletilých, v explicitních a provokativních scénářích. Tyto obrázky jsou široce sdíleny na X, což vyvolává vážné obavy o online bezpečnost a souhlas.
Reakce vlády a právní kroky
Ministryně pro digitální záležitosti Liz Kendall uvedla, že falešné snímky jsou „zbraní násilí, která neúměrně míří na ženy a dívky, a jsou nezákonné“. Zdůraznila závazek vlády prosazovat stávající zákony a vytvářet nové, aby trestaly platformy, které umožňují vytváření takového obsahu.
Britský regulační úřad pro komunikaci Ofcom zahájil formální vyšetřování, zda Platforma X porušila zákony o online bezpečnosti zaměřené na zabránění šíření nelegálního materiálu, včetně nedobrovolných intimních obrázků a materiálů týkajících se sexuálního zneužívání dětí. Vyšetřování posoudí, zda platforma splňuje předpisy zaměřené na ochranu uživatelů před škodlivým obsahem.
Uživatelské reakce a širší důsledky
Oběti sexuálních obrázků generovaných umělou inteligencí vyjádřily rozhořčení a požadovaly, aby Elon Musk odstranil funkce, které takové násilí umožňují. Tento incident poukazuje na nebezpečný potenciál neregulovaných technologií umělé inteligence k usnadnění sexuálního vykořisťování a obtěžování.
Případ vyvolává širší otázky ohledně odpovědnosti platforem sociálních médií za moderování obsahu generovaného umělou inteligencí, zejména pokud jde o deepfakes vytvořené bez souhlasu. Přísnější britské kontroly nad X by mohly vytvořit precedens pro přísnější pravidla pro AI zobrazovací nástroje po celém světě.
Vyšetřování zdůrazňuje naléhavou potřebu přísných ochranných opatření, která zabrání použití umělé inteligence jako zbraně proti lidem, zejména ženám a dětem. Šíření těchto obrázků představuje vážné porušení soukromí a souhlasu a vyžaduje okamžitá právní a technologická řešení.
