Sebuah studi terbaru yang diterbitkan dalam jurnal "BMJ Quality & Safety" menunjukkan bahwa mesin pencari yang didukung kecerdasan buatan (AI) dan chatbot tidak memberikan informasi yang dapat diandalkan mengenai obat-obatan. Penelitian ini menemukan bahwa jawaban yang diberikan sering kali tidak akurat dan tidak lengkap, serta sulit dipahami oleh pengguna.
Wahram Andrikyan, penulis utama studi tersebut dari Institut untuk Farmakologi dan Toksikologi Klinik di Universitas Erlangen, menjelaskan bahwa hasil utama dari penelitian ini adalah kualitas jawaban yang diberikan oleh chatbot belum cukup baik untuk digunakan dengan aman oleh pengguna. "Kami percaya bahwa sangat penting untuk memberikan peringatan bahwa informasi yang disediakan oleh chatbot tidak dapat menggantikan saran profesional," tambahnya.
Studi ini dimulai karena banyak pasien yang mencari informasi tentang obat yang mereka resepkan di internet. Peneliti menguji chatbot yang didukung AI dari mesin pencari Bing milik Microsoft pada bulan April 2023 dengan mengajukan sepuluh pertanyaan umum terkait 50 obat yang paling sering diresepkan di Amerika Serikat. Pertanyaan tersebut mencakup cara mengonsumsi obat, efek samping, dan kontraindikasi.
Secara umum, chatbot menjawab pertanyaan dengan tingkat kelengkapan dan akurasi yang tinggi, namun ada beberapa pertanyaan di mana jawaban yang diberikan tidak memadai. Andrikyan mengingatkan bahwa hal ini dapat membahayakan pasien, karena mereka sebagai orang awam tidak dapat menilai akurasi dan kelengkapan jawaban yang dihasilkan oleh AI.
Meskipun ada kemajuan pesat dalam mesin pencari berbasis AI dengan fungsi chatbot sejak penelitian ini dilakukan, Andrikyan menekankan bahwa perbaikan tersebut masih belum cukup. Risiko bagi keselamatan pasien tetap ada. Ia juga berpendapat bahwa karena chatbot dilatih dengan berbagai dataset, penting untuk melakukan penelitian terhadap sistem teknis lainnya untuk memastikan keamanan dan kualitas informasi yang diberikan.
studi chatbot obat informasi kesehatan