Bagaimana AI Mempengaruhi Pemilu

PADA 14 Februari 2024, Indonesia menyelenggarakan pemilihan umum presiden dan wakilnya serta anggota Majelis Permusyawaratan Rakyat yang terdiri atas Dewan Perwakilan Rakyat, Dewan Perwakilan Daerah, dan anggota badan legislatif daerah di tingkat provinsi serta kota/kabupaten. Lebih dari 205 juta pemilih di lebih dari 17.000 pulau dan tiga zona waktu berbeda berhak memilih dalam pemilu serentak terbesar serta paling rumit di dunia. 

Sembilan bulan setelah perhelatan akbar itu, tepatnya pada 27 November mendatang, Indonesia kembali menggelar pemilihan umum, yakni pemilihan kepala daerah (pilkada) serentak yang dilangsungkan di 37 provinsi dan 508 kabupaten/kota. 

Berbeda dengan pemilu-pemilu sebelumnya, saya mengamati bahwa kecerdasan buatan (artificial intelligence/AI) memainkan peranan besar dalam mengubah hasil pemilu. Sebagai landasan filosofis, demokrasi bertumpu pada prinsip partisipasi setara dalam pengambilan keputusan.

Namun, karena AI terlibat dalam pemilu, saya memutuskan untuk melihat lebih dekat penggunaan teknologi tersebut selama pemilu di Indonesia. Saya juga mencoba mengkaji pedoman etika kecerdasan buatan terbaru dari pemerintah Indonesia serta memberikan wawasan dan rekomendasi untuk Panduan Kecerdasan Artifisial untuk Kemanusiaan dari Badan Penasihat Kecerdasan Artifisial bentukan Perserikatan Bangsa-Bangsa.

Perubahan Pemilu karena AI

Untuk pertama kalinya di Indonesia, kecerdasan buatan generatif (generative AI/Gen AI) diterapkan dan digunakan dalam skala besar di ranah politik Indonesia. Saya mulai dengan Pemilu.AI yang diklaim sebagai konsultan politik kecerdasan buatan pertama di dunia. Pemilu.AI dapat melakukan berbagai tugas, seperti menyediakan data demografi pemilu, menjelajah media sosial dan situs web berita, bahkan menghasilkan pidato, slogan, serta konten media sosial yang disesuaikan dengan daerah pemilihan menggunakan bantuan ChatGPT 4 dan 3.5.

Peserta pemilu juga mendapat bantuan untuk membentuk kepribadian mereka. Para politikus dapat membuat daftar prioritas mereka dan memilih bagaimana mereka ingin digambarkan. Karakteristik yang paling diinginkan di kalangan politikus yang menggunakan Pemilu.AI adalah “rendah hati” dan “religius”. Pemilu.AI dilaporkan telah melayani setidaknya 700 calon anggota badan legislatif.

Lalu ada Bijakmemilih.id (sekarang telah berganti nama menjadi Bijakdemokrasi.id). Situs web pendidikan ini menggunakan kecerdasan buatan untuk membantu pemilih pemula memilih kandidat politik yang ideal berdasarkan profil mereka. Kecerdasan buatan akan menganalisis profil pengguna, nilai-nilai kehidupan dan kepedulian mereka, lalu mencoba mencocokkannya dengan kandidat peserta pemilu.

Masyarakat juga dengan mudah menemukan Gen AI untuk membuat materi kampanye politik. Versi kartun Prabowo Subianto—diproduksi menggunakan Gen AI, seperti Midjourney, Leonardo AI, Microsoft Bing, dan Pika Labs—terpampang di papan reklame di seluruh Indonesia. Kartun tersebut direproduksi di kaus dan stiker serta ditampilkan secara mencolok di unggahan bertagar #Prabowo yang ditonton sekitar 19 miliar kali di TikTok.

Kelompok relawan kampanye Prabowo meluncurkan platform Gen AI PrabowoGibran.ai pada Desember 2023 untuk membantu 15 ribu relawan “pasukan siber”. Dengan platform ini, mereka dapat melacak sentimen daring dan membagikan karya seni yang dihasilkan kecerdasan buatan di media sosial.

Kartun yang dibuat oleh kecerdasan buatan juga telah menjadi inti dari rebranding pemilu terhadap Prabowo. Alih-alih menggambarkan dirinya sebagai seorang nasionalis yang berapi-api, seperti yang ia lakukan dalam dua pencalonan presiden sebelumnya, kali ini ia menggunakan slogan baru: “gemoy”—yang berarti imut dan menggemaskan.

Namun yang paling memprihatinkan, saya mengamati bukti eksistensi media sintetis (deepfake). Media sintetis digunakan karena berbagai alasan: dari untuk menyebarkan disinformasi hingga “toxic positivity”—mengirim hanya pesan “kebaikan” kepada pemilih muda demi mendapatkan popularitas dan dukungan politik.

Media deepfake yang viral menjelang masa kampanye Pemilu 2024, misalnya, video yang menggambarkan Presiden Joko Widodo menyanyikan sebuah lagu pop. Video ini dengan cepat menyebar ke seluruh platform media sosial, seperti X, dan menampilkan penyebaran informasi yang salah yang meyakinkan dengan cepat.

Media deepfake lain yang juga cukup viral adalah video Prabowo Subianto fasih berbahasa Arab. Konten ini menarik lebih dari 1,7 juta penayangan di TikTok dalam tiga hari sebelum dibantah. Meski terbukti palsu, banyak masyarakat Indonesia yang masih mempercayai keasliannya. Hal ini menunjukkan sulitnya mendeteksi kepalsuan deepfake.

Ada pula media deepfake yang menampilkan Presiden Joko Widodo fasih berbahasa Mandarin. Kementerian Komunikasi dan Informatika kemudian menghapus video tersebut dan mencapnya sebagai hoaks. Namun upaya itu terlambat. Kerusakan telah terjadi.

Lalu ada media deepfake berisi video mendiang diktator Soeharto yang mengajak masyarakat memilih salah satu partai politik. Hingga artikel ini ditulis, video tersebut telah ditonton lebih dari 4,4 juta kali. Video ini memicu perdebatan di masyarakat mengenai revisionisme sejarah. 

Revisionisme historis, sesuai dengan definisinya berarti "setiap tantangan terhadap penafsiran yang ada atas segala aspek masa lalu yang disebabkan oleh bukti baru, argumen baru, perspektif baru, atau metode baru". Namun video yang dibuat oleh Gen AI ini digunakan untuk menggambarkan Soeharto sebagai “orang baik”, peduli pada proses demokrasi, dan sangat peduli terhadap kesejahteraan rakyat Indonesia.

Tantangan Pengaturan Kecerdasan Buatan

Berdasarkan situasi di Indonesia, ada beberapa tantangan besar ketika kita berbicara tentang penggunaan kecerdasan buatan dalam pemilu. Pertama, belum adanya pengamanan memadai dalam penggunaan mahadata bagi para peserta pemilu.

Setiap data pribadi yang dikumpulkan platform kecerdasan artifisial tersebut harus dipastikan tetap dapat menjunjung prinsip partisipasi setara dalam pengambilan keputusan. Terutama setelah penerbitan Undang-Undang Pelindungan Data Pribadi pada tahun lalu. 

Kedua, masih sulitnya masyarakat membedakan video asli dan palsu. Sekarang, hampir semua orang dapat membuat media deepfake berupa video dan audio. Bahkan, mereka yang memiliki keterampilan digital minimal pun dapat menggunakan aplikasi gratis, seperti FaceApp dan Reface. Ada lebih dari 100 ribu model Gen AI yang dapat menghasilkan media deepfake. Namun kurang dari 3 persen model Gen AI yang dapat mendeteksi media deepfake.

Ketiga adalah mencegah penyebaran sikap toxic positivity dan kecenderungan revisionisme sejarah kepada para pemilih pemula. Hal ini pekerjaan rumah yang tidak mudah karena terkait dengan upaya pendidikan politik dan penulisan sejarah yang setia pada kebenaran.

Keempat, rendahnya kesadaran dan kesiapan lembaga-lembaga pemilu Indonesia, yaitu Komisi Pemilihan Umum dan Badan Pengawas Pemilu dalam memantau serta memitigasi penyalahgunaan kecerdasan buatan pada pemilu.

Tak Cukup Panduan Etika

Kementerian Komunikasi dan Informatika pada Desember 2023 mengeluarkan Surat Edaran Nomor 9 Tahun 2023 tentang Etika Kecerdasan Artifisial. Namun tidak ada satu pun tantangan yang dapat diselesaikan dengan pedoman etika tersebut. 

Kesembilan prinsip dalam pedoman etika tersebut—inklusivitas, kemanusiaan, keselamatan, aksesibilitas, transparansi, kredibilitas dan akuntabilitas, privasi data, pembangunan lingkungan dan berkelanjutan, serta kekayaan intelektual—penerapannya hanya didasarkan pada partisipasi sukarela, tidak wajib bagi kreator kecerdasan buatan. 

Akibatnya, pelanggaran etika tidak ditangani dengan segera dan menyeluruh. Di kalangan aktivis dan akademikus hak-hak digital, surat edaran tersebut dianggap “samar” dan “tidak meyakinkan”. Terutama jika dibandingkan dengan upaya Uni Eropa dalam menarik garis batas antara apa yang diperbolehkan dan apa yang tidak dengan teknologi kecerdasan buatan (EU AI Act).

Saya mendengar pemerintah berencana mengatur kecerdasan buatan dengan mengeluarkan undang-undang baru tentang kecerdasan buatan pada akhir 2024. Saya mengusulkan agar dalam undang-undang tersebut diatur cara menurunkan risiko kecerdasan buatan terhadap pemilu, demokrasi, hak asasi manusia, dan supremasi hukum.

Dalam masukan kepada laporan interim dari Badan Penasihat Kecerdasan Artifisial PBB, Mei lalu, saya juga mengusulkan pembuat regulasi menurunkan risiko AI dalam penggunaan deepfake di domain publik. 

Hal itu diperlukan agar semua entitas digital atau persona digital yang dibuat oleh kecerdasan buatan untuk penggunaan komersial, pendidikan, dan tujuan politik didaftarkan. Dengan demikian, keberadaan mereka lebih akuntabel dan mudah dilacak siapa yang membuatnya, kapan, serta apa tujuannya (konteksnya).