Penggunaan teknologi AI generatif semakin meluas di dunia, termasuk dalam bidang politik. Namun, para peneliti menghadapi tantangan yang dikenal sebagai "celah deteksi". Celah ini muncul karena bias yang terprogram dalam sistem AI, yang menyebabkan alat untuk mengidentifikasi konten palsu sering kali tidak efektif, terutama di negara-negara Global South.
Baru-baru ini, mantan presiden Amerika Serikat, Donald Trump, yang juga merupakan seorang terpidana, mengunggah serangkaian foto di media sosial. Foto-foto ini tampaknya menunjukkan para penggemar bintang pop Taylor Swift yang mendukung pencalonannya sebagai presiden. Namun, setelah diteliti oleh WIRED dan menggunakan alat deteksi dari organisasi nonprofit True Media, diketahui bahwa foto-foto tersebut menunjukkan "bukti substansial manipulasi", yang mengindikasikan kemungkinan besar foto tersebut dihasilkan oleh AI.
Penting untuk dicatat bahwa deteksi konten AI tidak selalu mudah. Mengingat penggunaan AI generatif untuk tujuan politik semakin sering terjadi, WIRED telah memantau penggunaannya dalam pemilihan di seluruh dunia. Sayangnya, di banyak bagian dunia, terutama di luar Amerika Serikat dan beberapa negara Eropa, mendeteksi konten yang dihasilkan oleh AI menjadi sulit. Bias dalam pelatihan sistem AI berarti kekurangan sumber daya bagi jurnalis dan peneliti untuk menangani banjir informasi palsu yang akan masuk.
Teknologi AI generatif mengacu pada algoritma yang dapat menghasilkan konten baru, seperti gambar atau teks, berdasarkan data yang telah dilatih. Hal ini menimbulkan tantangan besar di era digital saat ini, di mana informasi yang salah dapat menyebar dengan cepat melalui media sosial. Dengan demikian, penting bagi kita untuk menyadari dan mengatasi masalah ini agar tidak terjebak dalam desinformasi.
AI generatif disinformasi deteksi konten