Ancaman ”Deepfake”, Aturan AI Mendesak Diatur dalam RUU Pemilu

JAKARTA, KOMPAS — Perkembangan akal imitasi atau AI yang pesat mampu membuat konten-konten menyesatkan publik. Kondisi ini menjadi ancaman dalam demokrasi, salah satunya pada proses pemilu, sehingga perlu diperhatikan dalam Rancangan Undang-Undang Pemilu.

Ketua Presidium Masyarakat Anti Fitnah Indonesia (Mafindo) Septiaji Eko Nugroho menilai, konten menyesatkan yang dibuat dengan teknologi AI menjadi persoalan serius bagi perkembangan demokrasi. Penggunaan deepfake bahkan telah muncul dalam proses pemilu.

”Nate Persily, profesor dari Stanford Law School, menyatakan bahwa masalah AI dan demokrasi ini bukan hanya masalah orang percaya dengan informasi yang sesat atau tidak, tetapi juga erosi terhadap konten-konten yang otentik,” paparnya dalam diskusi publik di Badan Pengawas Pemilu, Jakarta, Jumat (14/11/2025).

Diskusi tersebut bertajuk Antisipasi Perkembangan AI dan Model Pengawasan Digital di Pemilu. Selain Septiaji, hadir juga anggota Bawaslu Lolly Suhenty, anggota Komisi Pemilihan Umum (KPU) August Mellaz, dan anggota Komisi II DPR Ahmad Irawan.

Dalam paparannya, Septiaji menyoroti pemilu di dua negara pada 2025 untuk mencontohkan kondisi termutakhir, yakni Belanda dan Irlandia.

Di Belanda, setidaknya ditemukan 590 konten yang menyinggung isu rasial. Sementara itu, di Irlandia, Septiaji menyebut adanya deepfake yang menampilkan rekayasa wawancara antara calon presiden, Catherine Connolly, dengan wartawan. Video rekayasa itu seolah-olah terjadi dan beredar beberapa hari sebelum pemilu.

Hal serupa juga terjadi pada pemilu di Slowakia pada 2023. Penyebaran konten deepfake wawancara Michal Simecka, pemimpin partai liberal Progresif Slovakia dengan Monika Todova dari surat kabar harian Denník N.

”Waktunya dua hari sebelum pemilu. Dua hari untuk fake checker, mencari faktanya, enggak cukup. Jadi, memang belum ada yang kemudian bisa membuat analisis dengan sangat konkret, ya,” papar Septiaji.

Revisi UU Pemilu

Oleh karena itu, Septiaji mengingatkan perlunya regulasi yang mengatur tentang AI, khususnya terkait dengan pemilu. Hal ini untuk memitigasi potensi pelanggaran yang terjadi dalam pemilu yang bahkan bisa saja berujung terpecah belahnya masyarakat.

Bahkan, Septiaji mengkhawatirkan adanya isu SARA yang bisa saja dimainkan oleh pihak-pihak yang tidak bertanggung jawab. Dia mengingatkan, skenario paling buruk dalam pemilu nanti adalah jika dihadapkan dengan misinformasi dengan menggunakan AI dan isu-isu SARA. 

”Yang saya khawatirkan adalah ketika nanti pertemuan tiga titik, dari Pemilu, AI, dan SARA jadi satu. Ini skenario yang paling buruk, tapi kita harus siap. Kita harus punya sistem yang siap menghadapi itu,” ujarnya.

Oleh karena itu, Septiaji mengingatkan perlunya produk legislasi hingga regulasi yang beradaptasi dengan perkembangan teknologi. Jadi, tidak hanya DPR sebagai pembuat UU, Septiaji juga berharap KPU dan Bawaslu sebagai pelaksana pemilu memiliki penguatan regulasi terkait AI.

”Kita itu butuh banget cantolan di UU Pemilu, di mana kita bisa secara kolaboratif, berbicara secara kohesif tentang sistem data digital, bagaimana KPU dan Bawaslu, dan itu bisa bersinergi,” lanjut Septiaji.

Anggota Bawaslu, Lolly Suhenty, menyatakan, pihaknya juga membutuhkan adanya peraturan yang relevan dengan penggunaan teknologi kecerdasan buatan tersebut. Dia berharap para perancang undang-undang bisa berpikir jauh ke depan, terutama dalam menghadapi Pemilu 2029.

”Berharap saja revisi ini (RUU Pemilu) akan menangkap berbagai situasi yang terjadi hari ini, termasuk penggunaan teknologi. Saya meyakini bahwa tentulah nanti pembuat regulasi itu sudah juga berpikir jauh ke depan soal situasi yang akan kita hadapi di 2029,” ujarnya.

Anggota KPU, August Mellaz, juga mengamini kebutuhan terhadap regulasi dalam menghadapi perkembangan AI ini. Menurut dia, sejumlah informasi dan pertimbangan terkait AI dalam pemilu bakal menjadi masukan dalam RUU Pemilu nanti.

”KPU itu sedang menyiapkan berbagai produk pengetahuan yang berasal dari pengalaman yang isinya data dan informasi. Itu akan kami strukturkan sedemikian rupa menjadi produk pengetahuan yang akan disumbangkan dalam konteks revisi UU Pemilu,” paparnya.

Dibahas 2026

Anggota Komisi II DPR, Ahmad Irawan, menyebut RUU Pemilu rencananya bakal mulai bergulir pada 2026. Pembentukan Panitia Kerja (Panja) RUU Pemilu oleh Komisi II DPR, lanjutnya, diperkirakan akan dilakukan pada masa sidang DPR di awal 2026.

Dia menegaskan, DPR akan mengedepankan partisipasi bermakna dan menyaring masukan dari berbagai pihak, termasuk terkait isu kecerdasan buatan ini. Apalagi, tidak hanya terkait pelanggaran, regulasi yang menyangkut penggunaan AI dalam sistem juga perlu diatur lebih tegas. 

”Kalau proses dialognya lancar, Panja telah akan kami bentuk di Januari 2026. Kemungkinan besar akan seperti itu. Dan tentu, konten materi, substansi radi revisi UU Pemilu ini salah satunya pasti akan memuat kaitannya dengan penggunaan teknologi informasi,” ungkapnya.