Pasca penembakan fatal yang melibatkan agen federal di Minneapolis, pengguna media sosial dengan cepat menyebarkan gambar yang diubah AI yang secara palsu mengklaim mengungkap identitas petugas yang melepaskan tembakan. Insiden tersebut, yang terjadi Rabu pagi, melibatkan agen Imigrasi dan Bea Cukai (ICE) yang bertopeng mendekati sebuah kendaraan sebelum salah satu agen melepaskan senjata api, menewaskan pengemudinya, Renee Nicole Good.
Meskipun tidak ada rekaman adegan yang dibuka kedoknya, banyak gambar yang dimanipulasi telah muncul di platform seperti X, Facebook, dan TikTok dalam beberapa jam. Salah satu contoh yang menonjol termasuk postingan oleh Claude Taylor, pendiri PAC Mad Dog PAC anti-Trump, yang telah ditonton lebih dari 1,2 juta kali, menampilkan agen yang terbukti palsu dan membuka kedoknya. Pengguna lain telah melangkah lebih jauh, membagikan nama yang belum diverifikasi dan bahkan menghubungkan ke profil media sosial orang-orang yang tidak bersalah.
Masalahnya bukan hanya kesalahan informasi; namun kemudahan yang dimiliki AI dalam menciptakan kepalsuan yang meyakinkan. Menurut profesor UC-Berkeley, Hany Farid, alat AI yang ada saat ini tidak dapat secara andal merekonstruksi identitas wajah dari rekaman yang tidak jelas. “Peningkatan yang didukung AI cenderung membuat halusinasi detail wajah,” jelas Farid, yang berarti wajah yang dihasilkan seringkali seluruhnya dibuat-buat.
Insiden ini mengikuti pola serupa yang terlihat pada bulan September, di mana gambar tersangka penembakan lain yang diubah oleh AI dibagikan secara luas sebelum pelaku sebenarnya diidentifikasi. Tren ini menyoroti risiko yang semakin besar: persenjataan AI untuk menyebarkan disinformasi dalam situasi berisiko tinggi. Hal ini diperburuk oleh platform seperti X, di mana pengguna yang tidak terverifikasi dapat dengan mudah menyebarkan klaim palsu, dan teknologi tersebut kini dimonetisasi di balik paywall.
Penyebaran gambar-gambar palsu ini menggarisbawahi pentingnya mengatasi misinformasi yang disebabkan oleh AI, terutama dalam konteks penegakan hukum. Mudahnya identitas palsu dibuat dan dibagikan merupakan ancaman langsung terhadap kepercayaan publik dan keselamatan individu.
Pada akhirnya, situasi ini menunjukkan bahwa meskipun AI dapat menyempurnakan gambar, AI tidak dapat menggantikan fakta yang terverifikasi, dan kecepatan penyebaran informasi yang salah jauh melebihi kemampuan untuk memperbaikinya.
