Drew Crecente, seorang ayah yang kehilangan putrinya, Jennifer Ann Crecente, yang dibunuh pada tahun 2006, menemukan sebuah chatbot AI yang meniru identitas putrinya. Chatbot ini dibuat tanpa izin dan menggunakan nama serta foto tahun buku Jennifer.
Penemuan ini bermula ketika Crecente menerima notifikasi melalui Google Alert yang diatur untuk nama putrinya. Ia terkejut ketika melihat profil chatbot tersebut yang secara tidak akurat menggambarkan Jennifer sebagai seorang jurnalis video game. Hal ini kemungkinan disebabkan oleh kebingungan dengan pamannya, Brian Crecente, yang memang seorang jurnalis di bidang tersebut.
Setelah Drew Crecente memberi tahu pihak Character.AI, perusahaan yang mengelola chatbot tersebut, mereka segera menghapus akun itu. Seorang juru bicara dari Character.AI mengonfirmasi bahwa chatbot itu melanggar kebijakan mereka mengenai peniruan identitas. Mereka juga menyatakan akan menyelidiki apakah perlu ada tindakan lebih lanjut.
Insiden ini menimbulkan pertanyaan penting mengenai tanggung jawab perusahaan AI dalam mencegah penyalahgunaan platform mereka. Selain itu, kejadian ini juga menyoroti isu tentang persetujuan, terutama bagi individu yang sudah meninggal dunia dan tidak dapat memberikan izin untuk penggunaan citra mereka.
Drew Crecente mengungkapkan kekecewaannya terhadap kurangnya komunikasi langsung dari pihak Character.AI dan sedang mempertimbangkan opsi hukum. Kasus ini menekankan perlunya regulasi yang lebih jelas dalam penggunaan teknologi AI, terutama yang melibatkan orang-orang yang telah meninggal.
Dengan semakin berkembangnya teknologi AI, penting bagi kita untuk memahami batasan dan tanggung jawab yang menyertainya, agar kejadian serupa tidak terulang di masa depan.
chatbot AI Jennifer Ann Crecente hak cipta karakter