Sebuah investigasi oleh WIRED mengungkapkan bahwa banyak saluran YouTube menggunakan teknologi kecerdasan buatan (AI) untuk membuat video yang mengganggu. Video-video ini menampilkan karakter kartun, seperti minion dan kucing, yang mengalami penyalahgunaan, mutasi, dan seksualisasi.
Meskipun terlihat ramah anak, saluran seperti Go Cat menayangkan animasi yang surreal, bahkan terkadang mengerikan. Ini mengingatkan pada skandal "Elsagate" yang terjadi pada tahun 2017, ketika karakter anak-anak seperti Elsa dan Spider-Man muncul dalam situasi kekerasan atau seksual untuk mengeksploitasi algoritma YouTube dan menarik perhatian penonton muda.
Saat itu, YouTube mengambil tindakan dengan menghapus iklan dari lebih dari 2 juta video, menghapus 150.000 video, dan menutup 270 akun. Namun, konten serupa terus muncul, termasuk video yang dihasilkan oleh AI yang menggambarkan adegan grafis atau fetishis dengan karakter yang sudah dikenal. Kini, alat dan tutorial yang ada mempermudah siapa saja untuk menciptakan konten semacam ini dan mendapatkan keuntungan, sering kali lolos dari filter dengan kata kunci pencarian yang tampak tidak berbahaya seperti "kucing lucu" atau "minion."
Menanggapi permintaan komentar dari WIRED, YouTube mengungkapkan bahwa mereka telah "menutup dua saluran yang dilaporkan karena melanggar Ketentuan Layanan kami" dan sedang menangguhkan monetisasi dari tiga saluran lainnya.
"Sejumlah video juga telah dihapus karena melanggar kebijakan Keamanan Anak kami," kata juru bicara YouTube. "Seperti biasa, semua konten yang diunggah ke YouTube tunduk pada Pedoman Komunitas dan prinsip kualitas kami untuk anak-anak—terlepas dari bagaimana cara pembuatannya."
Saat ditanya tentang kebijakan yang ada untuk mencegah pengguna yang dilarang membuka saluran baru, YouTube menyatakan bahwa tindakan tersebut akan bertentangan dengan Ketentuan Layanan mereka dan bahwa kebijakan ini ditegakkan dengan ketat "menggunakan kombinasi antara manusia dan teknologi."
YouTube berusaha keras untuk melindungi pengguna mudanya dari konten yang tidak pantas, namun tantangan tetap ada seiring dengan berkembangnya teknologi.
YouTube AI karakter kartun konten berbahaya anak-anak