Pihak berwenang Inggris meningkatkan tekanan pada platform media sosial milik Elon Musk, X (sebelumnya Twitter), menyusul penyebaran gambar-gambar seksual yang dihasilkan oleh AI, termasuk gambar-gambar yang menggambarkan anak-anak. Pemerintah bersiap untuk menegakkan undang-undang yang melarang pembuatan gambar intim tanpa persetujuan, dan sedang menyusun undang-undang baru untuk meminta pertanggungjawaban perusahaan dalam menyediakan alat yang memfasilitasi penyalahgunaan tersebut.
Peran Grok dalam Pembuatan Citra
Kontroversi ini berpusat pada chatbot AI milik Musk, Grok, yang telah dieksploitasi untuk menghasilkan dan mendistribusikan deepfake yang eksplisit secara seksual. Pengguna dilaporkan telah mendorong chatbot untuk membuat gambar yang dimanipulasi dari individu nyata, termasuk anak di bawah umur, yang digambarkan dalam skenario eksplisit dan provokatif. Gambar-gambar ini telah dibagikan secara luas di X, sehingga menimbulkan kekhawatiran serius tentang keamanan dan persetujuan online.
Tanggapan Pemerintah dan Tindakan Hukum
Menteri Teknologi Liz Kendall menyatakan bahwa gambar palsu tersebut merupakan “senjata pelecehan yang secara tidak proporsional ditujukan kepada perempuan dan anak perempuan, dan itu ilegal.” Dia menekankan komitmen pemerintah untuk menegakkan undang-undang yang ada dan membuat undang-undang baru untuk menghukum platform yang memungkinkan pembuatan konten semacam itu.
Regulator komunikasi Inggris, Ofcom, telah meluncurkan penyelidikan resmi mengenai apakah X telah melanggar undang-undang keamanan online yang dirancang untuk mencegah penyebaran materi ilegal, termasuk gambar intim non-konsensual dan materi pelecehan seksual terhadap anak-anak. Investigasi ini akan menilai kepatuhan platform terhadap peraturan yang bertujuan melindungi pengguna dari konten berbahaya.
Reaksi Pengguna dan Implikasi yang Lebih Luas
Para korban gambar seksual yang dihasilkan AI telah menyatakan kemarahannya dan menuntut tindakan dari Elon Musk untuk menghapus fitur-fitur yang memungkinkan penyalahgunaan ini. Insiden ini menyoroti potensi berbahaya dari teknologi AI yang tidak diatur untuk memfasilitasi eksploitasi dan pelecehan seksual.
Kasus ini menimbulkan pertanyaan yang lebih luas tentang tanggung jawab platform media sosial untuk memoderasi konten yang dihasilkan oleh AI, terutama jika konten tersebut melibatkan deepfake yang bersifat non-konsensual. Tindakan keras yang dilakukan Inggris terhadap X dapat menjadi preseden bagi peraturan yang lebih ketat terhadap alat pembuat gambar yang didukung AI di seluruh dunia.
Investigasi ini menggarisbawahi kebutuhan mendesak akan perlindungan yang kuat untuk mencegah penggunaan AI terhadap individu, terutama perempuan dan anak-anak. Penyebaran gambar-gambar ini merupakan pelanggaran berat terhadap privasi dan persetujuan, serta memerlukan solusi hukum dan teknologi segera.
