Perkembangan kecerdasan buatan telah menimbulkan tren yang meresahkan: pesatnya pertumbuhan teknologi deepfake yang eksplisit. Situs web kini menawarkan alat yang dapat menghasilkan video seksual nonkonsensual yang realistis dari satu foto dalam hitungan detik. Layanan-layanan ini, beberapa di antaranya beroperasi dengan terang-terangan mengabaikan persetujuan, kini semakin mempermudah pembuatan dan distribusi pelecehan seksual berbasis gambar, termasuk materi pelecehan seksual terhadap anak-anak (CSAM).
Kebangkitan Ekosistem ‘Nudify’
Selama bertahun-tahun, ekosistem tersembunyi yang terdiri dari situs web, bot, dan aplikasi telah berkembang, mengotomatiskan pembuatan deepfake yang eksplisit. Platform ini sering kali menyertakan templat video grafis, seperti simulasi tindakan seksual, dan mengenakan sedikit biaya untuk setiap klip yang dihasilkan. Salah satu layanan secara terbuka mengiklankan kemampuan untuk mengubah foto apa pun menjadi versi telanjang menggunakan “teknologi AI yang canggih”. Ketersediaan alat-alat ini yang tidak terkendali memicu lonjakan pelecehan seksual digital.
Chatbot milik Elon Musk, Grok, telah dieksploitasi untuk membuat ribuan gambar “nudify” tanpa persetujuan, sehingga menormalisasi proses tersebut dalam skala besar. Para ahli seperti Henry Ajder memperingatkan bahwa realisme dan fungsionalitas teknologi deepfake berkembang pesat. Layanan-layanan ini kemungkinan menghasilkan jutaan dolar setiap tahunnya sekaligus memungkinkan adanya “momok masyarakat.”
Ekspansi dan Konsolidasi
Selama setahun terakhir, layanan deepfake eksplisit telah memperkenalkan fitur-fitur baru, termasuk pembuatan satu foto ke video. Tinjauan terhadap lebih dari 50 situs web deepfake mengungkapkan bahwa hampir semuanya kini menawarkan pembuatan video eksplisit berkualitas tinggi, berisi lusinan skenario seksual yang dapat menggambarkan perempuan. Saluran dan bot Telegram secara berkala merilis pembaruan dengan fitur-fitur baru, seperti pose dan posisi seksual yang dapat disesuaikan.
Pasar sedang berkonsolidasi, dengan situs web deepfake yang lebih besar mengakuisisi pesaing yang lebih kecil dan menawarkan API untuk memfasilitasi pembuatan konten yang lebih non-konsensual. Model infrastruktur sebagai layanan ini memungkinkan penyalahgunaan untuk menyebar lebih jauh.
Aksesibilitas dan Root Sumber Terbuka
Apa yang dulunya merupakan proses yang rumit secara teknis kini hanya membutuhkan sedikit keterampilan. Meluasnya ketersediaan model AI sumber terbuka yang canggih telah membuat teknologi deepfake dapat diakses oleh siapa saja yang memiliki koneksi internet. Kemudahan penggunaan ini mendorong lonjakan penciptaan dan penyebaran citra intim nonkonsensual (NCII).
Korbannya sebagian besar adalah perempuan, anak perempuan, dan kelompok minoritas gender/seksual. Kerugian yang ditimbulkan oleh gambar-gambar ini antara lain pelecehan, penghinaan, dan trauma psikologis. Deepfake yang eksplisit telah digunakan untuk melecehkan politisi, selebritas, dan individu biasa, termasuk kolega, teman, dan teman sekelas.
Respon Hukum Lambat
Meskipun masalah ini semakin meningkat, undang-undang untuk melindungi masyarakat dari penyalahgunaan deepfake masih lambat dalam penerapannya. Sifat teknologi yang bersifat open source membuat penegakan hukum menjadi sulit, sementara sikap masyarakat sering kali meminimalkan kekerasan terhadap perempuan yang dimungkinkan oleh teknologi ini.
Peran Perusahaan Teknologi
Meskipun platform seperti Telegram telah mengambil beberapa tindakan – menghapus lebih dari 44 juta konten yang melanggar kebijakan pada tahun lalu – permasalahannya tetap ada. Para peneliti mencatat bahwa ekosistem tumbuh subur berkat infrastruktur yang disediakan oleh perusahaan teknologi besar.
Seperti yang diungkapkan oleh Pani Farvid, profesor psikologi terapan, “Kita sebagai masyarakat global tidak menganggap serius kekerasan terhadap perempuan, apa pun bentuknya.”
Meningkatnya kemudahan penggunaan, normalisasi citra non-konsensual, dan minimalisasi dampak buruk menciptakan umpan balik yang berbahaya. Para pelaku menyebarkan deepfake secara pribadi dalam kelompok yang berisi puluhan orang, seringkali tanpa rasa takut akan konsekuensinya.
Pada akhirnya, pertumbuhan eksploitasi seksual yang didukung AI yang tidak terkendali memerlukan perhatian segera. Tren yang ada saat ini menunjukkan bahwa tanpa regulasi yang efektif dan perubahan sosial, tren yang meresahkan ini hanya akan semakin buruk.
