Komisi Perdagangan Federal (FTC) telah mengambil tindakan terhadap DoNotPay, sebuah layanan hukum berbasis kecerdasan buatan, karena menyesatkan konsumen tentang kemampuan chatbotnya yang diklaim bisa menggantikan pengacara manusia. Tindakan ini merupakan bagian dari inisiatif "Operation AI Comply" yang bertujuan untuk memastikan bahwa layanan berbasis AI tidak mengelabui masyarakat.
Dalam penyelidikan, FTC menemukan bahwa DoNotPay tidak melakukan pengujian yang memadai terhadap kemampuan hukum AI-nya dan telah membuat klaim palsu dalam iklan untuk meningkatkan jumlah pelanggan. Sebagai hasilnya, DoNotPay setuju untuk membayar denda sebesar Rp 2,9 miliar (setara dengan $193,000) dan akan memberitahukan konsumen yang terpengaruh tentang batasan dari layanan yang ditawarkan.
Menurut pengaduan yang diajukan oleh FTC, DoNotPay mengklaim bahwa mereka akan "menggantikan industri hukum senilai Rp 3.000 triliun dengan kecerdasan buatan" dan bahwa "pengacara robot" mereka dapat menggantikan keahlian serta hasil kerja pengacara manusia dalam membuat dokumen hukum. Namun, FTC menyatakan bahwa klaim tersebut dibuat tanpa adanya pengujian yang mendukungnya.
Lebih lanjut, karyawan DoNotPay tidak pernah menguji kualitas dan keakuratan dokumen hukum serta nasihat yang dihasilkan oleh sebagian besar fitur layanan yang berkaitan dengan hukum. DoNotPay juga tidak mempekerjakan pengacara dan tidak memiliki pengacara yang memiliki keahlian hukum yang relevan untuk menguji kualitas dan akurasi dari fitur-fitur tersebut.
Tindakan FTC ini menunjukkan pentingnya transparansi dan akurasi dalam layanan yang menggunakan teknologi canggih, terutama dalam bidang hukum yang sangat serius dan berpengaruh terhadap kehidupan masyarakat. Konsumen diharapkan lebih berhati-hati dan kritis terhadap layanan yang menjanjikan solusi instan tanpa bukti yang jelas.
FTC DoNotPay chatbot hukum konsumen