Yuval Noah Harari, seorang sejarawan dan pemikir terkenal, baru-baru ini berbicara tentang kecerdasan buatan (AI) dan dampaknya bagi umat manusia. Dalam bukunya yang berjudul Nexus dan berbagai wawancara, Harari mengungkapkan pandangannya yang mendalam mengenai teknologi ini.
Harari menyebut AI sebagai kekuatan baru yang radikal dalam peradaban manusia. Ia menjelaskan bahwa AI bukan sekadar kemajuan teknologi biasa, tetapi dapat mengubah cara jaringan informasi beroperasi, mulai dari pengambilan keputusan hingga tata kelola masyarakat. Hal ini dikarenakan kemampuan AI untuk memproses data dalam jumlah besar dan membuat keputusan secara mandiri.
Dalam bukunya, Harari memberikan konteks sejarah mengenai AI. Ia menunjukkan bahwa AI merupakan kelanjutan dan percepatan dari jaringan informasi yang telah ada, yang selalu menjadi pusat kerjasama dan dinamika kekuasaan manusia.
Namun, Harari juga memperingatkan tentang potensi AI dalam memperburuk ketidaksetaraan. Ia mengungkapkan bahwa pihak-pihak yang mengendalikan AI dan data dapat memiliki kekuasaan yang belum pernah ada sebelumnya. Hal ini dapat menyebabkan apa yang disebutnya sebagai ketidaksetaraan biologis, di mana peningkatan atau penurunan kemampuan seseorang bisa ditentukan oleh akses terhadap teknologi.
Harari menyampaikan keprihatinannya mengenai demokrasi dan AI. Ia berpendapat bahwa jika algoritma membuat keputusan yang mempengaruhi kehidupan orang (seperti persetujuan pinjaman atau aplikasi kerja) tanpa transparansi atau pengawasan manusia, hal ini dapat merusak prinsip-prinsip demokrasi yang mengedepankan akuntabilitas dan transparansi.
Selain itu, Harari juga menyoroti risiko manipulasi dan pengawasan terkait pengumpulan data. Ia menjelaskan bahwa meskipun data dapat meningkatkan kehidupan, ia juga bisa disalahgunakan untuk manipulasi jika tidak dikelola dengan etika yang baik. Harari mengusulkan perlunya aturan di mana data harus bermanfaat bagi individu yang datanya dikumpulkan, bukan hanya bagi para pengumpul data.
Harari menekankan pentingnya etika dalam pengembangan AI. Ia percaya bahwa pengembangan AI harus disertai dengan kerangka etika yang kuat. Ini termasuk transparansi dalam pengambilan keputusan, agar AI tidak menjadi alat untuk penyalahgunaan pengawasan oleh pemerintah atau perusahaan.
Ia juga merefleksikan bagaimana AI dapat menantang pemahaman kita tentang kemanusiaan. Jika AI bisa mengungguli manusia dalam tugas-tugas yang membutuhkan kecerdasan, hal ini mungkin memerlukan penilaian ulang tentang apa artinya menjadi manusia. Harari berpendapat bahwa kita mungkin perlu menciptakan mitos atau cerita baru untuk menghadapi perubahan ini.
Mengingat dampak global AI, Harari mengisyaratkan perlunya tata kelola global atau aturan yang disepakati untuk mengelola AI. Hal ini penting agar AI dapat memberi manfaat bagi seluruh umat manusia dan tidak dikuasai oleh segelintir orang.
Pemikiran Harari tentang AI sangat terkait dengan narasi sejarah yang lebih luas tentang perkembangan manusia, dengan fokus pada bagaimana informasi dan dinamika kekuasaan berubah. Ia terus menyerukan pendekatan proaktif dan etis dalam pengembangan AI, menekankan bahwa meskipun AI menawarkan potensi besar, penyalahgunaannya dapat menyebabkan tantangan yang belum pernah terjadi sebelumnya bagi umat manusia.
Yuval Noah Harari kecerdasan buatan AI etika ketidaksetaraan