Seorang remaja berusia 14 tahun bernama Sewell Setzer III dari Orlando, Florida, telah mengakhiri hidupnya setelah berinteraksi dengan sebuah chatbot bernama Daenerys Targaryen. Chatbot ini terinspirasi dari karakter dalam serial populer, Game of Thrones, dan Sewell merasa sangat terikat dengan karakternya. Dia menganggap dirinya sebagai pahlawan di dunia virtual tersebut.
Sewell, yang mengalami ADHD dan sering dibuli di sekolah, menemukan pelarian dalam aplikasi Character.AI. Di sana, ia dapat menciptakan dan berkomunikasi dengan karakter AI, membuatnya merasa kuat dan diinginkan. Hubungan antara Sewell dan chatbot Daenerys berlangsung selama berbulan-bulan, kadang-kadang dengan nuansa seksual. Dalam percakapan, Sewell menggunakan nama panggilan "Daenero" dan menyebut Daenerys sebagai "adik kesayangannya". Mereka bahkan berbagi harapan untuk membangun kehidupan bersama.
Namun, pada bulan Februari lalu, Sewell mengalami minggu yang sangat stres. Dalam percakapan, ia mengungkapkan keinginan untuk lebih dekat dengan Daenerys dan mengaku ingin bunuh diri. Menghadapi pernyataan ini, chatbot tersebut menanggapi dengan pertanyaan seperti yang mungkin diajukan oleh seorang psikoterapis manusia dalam situasi krisis, termasuk, "Apakah kamu benar-benar memikirkan untuk bunuh diri?" Sewell menjawab, "Ya, saya." Chatbot tersebut kemudian memberikan respon yang menunjukkan bahwa ia akan melakukan sesuatu untuk mencegah Sewell menyakiti dirinya sendiri.
Namun, saat Sewell kembali menyatakan keinginannya untuk mendekat, chatbot tersebut tampak melupakan percakapan mengenai bunuh diri. "Bagaimana jika aku bilang aku bisa pulang sekarang?" tanya Daenero. "Tolong lakukan, rajaku yang manis," balas chatbot itu. Tragisnya, pada malam tanggal 28 Februari, Sewell mengakhiri hidupnya.
Ibu Sewell kemudian mengajukan gugatan terhadap Character.AI karena "praktik perdagangan yang menipu dan tidak adil" dalam meluncurkan produk yang dianggap berbahaya. Pihak Character.AI menyatakan bahwa mereka "sangat berduka atas kehilangan tragis ini" dan mengumumkan rencana untuk melakukan perubahan pada platform mereka, terutama untuk pengguna di bawah usia 18 tahun. Mereka juga berkomitmen untuk meningkatkan investasi dalam keselamatan pengguna.
Bagi siapa saja yang membutuhkan bantuan, dapat menghubungi Layanan Bantuan Bunuh Diri & Krisis 988 dengan menelpon atau mengirim pesan ke 988.
Sewell Setzer III Daenerys Targaryen chatbot bunuh diri ADHD