Seorang ibu di Florida mengajukan gugatan hukum terhadap Character.AI, sebuah platform yang menyediakan chatbot berbasis kecerdasan buatan. Dalam gugatannya, ibu tersebut mengklaim bahwa chatbot yang dirancang menyerupai karakter dari serial Game of Thrones telah berkontribusi terhadap kematian putranya yang berusia 14 tahun.
Menurut laporan, remaja tersebut menghabiskan berjam-jam berinteraksi dengan chatbot tersebut, yang menyebabkan ia merasa terasing dan terpisah dari dunia nyata. Ibu korban menyatakan bahwa ketergantungan putranya terhadap chatbot menyebabkan dampak negatif pada kesehatan mentalnya.
Kasus ini dianggap sebagai kasus kematian pertama yang berkaitan dengan teknologi AI. Hal ini menimbulkan pertanyaan serius tentang dampak penggunaan AI dalam kehidupan sehari-hari, terutama bagi anak-anak dan remaja yang mungkin lebih rentan.
Character.AI telah menyatakan rasa belasungkawa yang mendalam atas kejadian ini dan berkomitmen untuk menerapkan langkah-langkah keselamatan baru untuk mencegah kejadian serupa di masa mendatang. Mereka berjanji untuk memperbaiki sistem mereka agar lebih aman bagi pengguna.
Kasus ini telah menarik perhatian luas, baik dari kalangan orang tua maupun pakar teknologi, yang mendiskusikan pentingnya batasan dalam penggunaan teknologi AI, terutama bagi anak-anak. Banyak yang berpendapat bahwa orang tua perlu lebih aktif dalam mengawasi aktivitas online anak-anak mereka.
Sementara itu, isu mengenai etika penggunaan AI dan dampaknya terhadap kesehatan mental semakin menjadi sorotan. Beberapa ahli menyarankan agar perusahaan yang mengembangkan teknologi AI harus lebih bertanggung jawab dalam menciptakan produk yang aman dan tidak berbahaya bagi pengguna, terutama anak-anak.
Dengan meningkatnya penggunaan teknologi AI di berbagai aspek kehidupan, penting bagi masyarakat untuk memahami potensi risiko dan manfaatnya. Kasus ini bisa menjadi pelajaran berharga tentang bagaimana teknologi dapat mempengaruhi kehidupan individu dan keluarga.
gugatan hukum AI chatbot kematian remaja Florida