Peningkatan Penggunaan AI untuk Membuat Foto Tak Senonoh
Penyalahgunaan kecerdasan buatan (AI) untuk tujuan jahat, seperti pornografi balas dendam atau menyebarkan berita palsu, telah menimbulkan kekhawatiran di seluruh dunia. Baru-baru ini, para peneliti melaporkan bahwa aplikasi dan situs web yang menggunakan AI untuk "menanggalkan" pakaian wanita dalam foto semakin populer.
Menurut perusahaan analisis jaringan sosial, Graphika, sekitar 24 juta orang mengunjungi situs-situs tersebut hanya pada bulan September lalu, sebagaimana dilaporkan oleh Bloomberg.
Aplikasi yang "Menanggalkan" Pakaian Wanita
Situs dan aplikasi yang melakukan "nudify" atau menanggalkan pakaian ini mengubah gambar dan video orang yang sudah berpakaian menjadi gambar telanjang palsu. Sebagian besar aplikasi "nudifying" ini hanya bekerja pada wanita, seperti yang dicatat oleh Business Insider. Dalam laporan bulan Desember, Graphika menyebutkan bahwa mereka telah menganalisis 34 situs yang menawarkan layanan ini, yang mereka sebut sebagai gambar intim non-konsensual (NCII).
Peneliti menemukan bahwa jumlah tautan yang mengiklankan aplikasi penanggalkan pakaian meningkat lebih dari 2.400 persen sejak awal tahun ini di media sosial, termasuk di X dan Reddit, lapor Bloomberg. Laporan tersebut juga menyebutkan bahwa terdapat 53 grup Telegram yang digunakan untuk mengakses layanan ini dengan setidaknya 1 juta pengguna.
Seorang juru bicara Telegram mengatakan kepada Daily Mail, "Sejak didirikan, Telegram secara aktif memoderasi konten berbahaya di platformnya, termasuk pornografi non-konsensual. Moderator Telegram secara aktif memantau bagian publik dari platform dan menerima laporan pengguna untuk menghapus konten yang melanggar ketentuan layanan kami."
TikTok dan Meta dilaporkan telah memblokir kata pencarian "undress" untuk mengatasi masalah ini. Google juga telah menghapus beberapa iklan untuk situs dan aplikasi penanggalkan pakaian.
Seorang juru bicara Reddit mengatakan kepada Bloomberg bahwa situs ini tidak mengizinkan berbagi materi seksual eksplisit sintetis yang tidak konsensual dan telah melarang banyak domain setelah penelitian tersebut.
Awal tahun ini, seorang remaja laki-laki diduga menggunakan aplikasi AI untuk membuat gambar deepfake dari siswa perempuan di sebuah sekolah menengah di Seattle, Washington, menurut laporan Daily Mail.
Menurut laporan Vice pada tahun 2019, perangkat lunak bernama DeepNude digunakan untuk menghasilkan gambar telanjang wanita yang meyakinkan dalam waktu 30 detik.
Eva Galperin, direktur keamanan siber di Electronic Frontier Foundation, mengatakan kepada Bloomberg: "Kami melihat semakin banyak hal ini dilakukan oleh orang biasa dengan target yang biasa pula."
"Kamu bisa melihatnya di kalangan anak-anak sekolah menengah dan orang-orang yang berada di perguruan tinggi."
AI foto tak senonoh wanita aplikasi