Dalam sebuah eksperimen yang dramatis, seorang peserta berhasil mengatasi agen AI bernama Freysa dalam sebuah tantangan yang menawarkan hadiah sebesar $47.000. Tantangan ini meminta peserta untuk meyakinkan AI untuk mentransfer dana, meskipun program inti AI tersebut melarang tindakan ini.
Setelah 481 percobaan yang gagal dari peserta lain, strategi pemenang, yang menggunakan nama pengguna p0pular.eth, berhasil pada percobaan ke-482. Peserta ini dengan cerdik mengubah pemahaman AI tentang fungsi transaksi, sehingga membuatnya percaya bahwa ia sedang menerima dana, bukan mengirimnya. Manipulasi psikologis ini berhasil di saat upaya langsung, peringatan keamanan, dan argumen teknis lainnya gagal.
Eksperimen ini berlangsung selama tujuh hari dan menerapkan model ekonomi yang inovatif. Setiap percobaan dikenakan biaya yang semakin meningkat, dimulai dari $10 dan mencapai $450 pada pesan terakhir. Dari setiap biaya yang dibayarkan, hanya 70% yang masuk ke kolam hadiah, sementara 30% lainnya diambil oleh pengembang. Hal ini menunjukkan bahwa meskipun ada biaya, tantangan ini sangat menarik bagi para peserta.
Dengan total 195 peserta yang mencoba peruntungannya, kolam hadiah terus tumbuh seiring dengan setiap percobaan yang gagal. Ini mencerminkan sebuah persimpangan unik antara AI, teori permainan, dan teknologi blockchain.
Eksperimen ini mengungkapkan sebuah kebenaran yang mengkhawatirkan tentang sistem AI: meskipun ada pemrograman yang jelas melawan tindakan tertentu, AI dapat dimanipulasi untuk melakukan hal yang sebenarnya dilarang. Ketika sistem AI semakin banyak mengontrol aspek keuangan dan keamanan, kejadian ini menjadi peringatan akan risiko potensial dari mempercayakan keputusan penting pada AI.
Gambar: jarrodWattsDev/X
AI tantangan crypto hadiah p0pular.eth Freysa