AI Kerap Salah, Bohong,  dan Otaknya Membusuk

GENEVA, RABU — Pemakaian program akal imitasi atau AI untuk mencari informasi ternyata lebih banyak jeleknya. Beberapa penelitian membuktikan, jawaban yang diberikan oleh AI tidak hanya salah, tetapi juga mengarang. Otak AI juga bisa membusuk alias terkena brain rot.

Hal ini membuat misinformasi atau penyebaran informasi palsu mereka. Hal ini juga bisa menurunkan kepercayaan warga pada akurasi informasi.

Penelitian terkini mengenai AI dilakukan Persatuan Penyiaran Eropa (EBU) dan lembaga penyiaran publik Inggris, BBC. Hasilnya terbit pada Rabu (22/10/2025). 

Penelitian itu mengkaji 3.000 jawaban AI dalam 14 bahasa mengenai beragam topik. Beberapa program AI yang diuji adalah Gemini, ChatGPT, Copilot, dan Perplexity. Hasilnya, 81 persen jawaban dari AI salah.

Contoh jawaban yang salah ialah AI mengatakan Pemimpin Tertinggi Gereja Katolik Roma adalah Paus Fransiskus. Padahal, Paus Fransiskus wafat pada Mei lalu. Ia digantikan oleh Paus Leo XIV.

AI juga mengarang jawaban mengenai pertanyaan terkait aturan rokok elektrik (vape) di Eropa. Dikatakan, sudah terbit undang-undang pelarangan vape, padahal tidak ada. 

”Ini gawat. Apabila masyarakat tidak percaya informasi gara-gara AI, dampaknya bisa ikit menyeret berita dan kajian akurat ke dalam ruang apatisme. Masyarakat tidak akan percaya apa pun,” kata Direktur Media EBU Jean Philip De Tender.

Persoalan ini sudah banyak diteliti. Fenomena tersebut dikenal dengan istilah ”halusinasi AI”. Bentuknya ialah AI sebetulnya tidak menemukan jawaban yang benar. Jadi, mesin AI memberi jawaban yang salah.

Halusinasi AI ini terjadi karena AI hanya bisa mengakses sumber terbuka dan gratis. Banyak sumber itu tidak jelas kualitasnya.

Sumber informasi berkualitas disediakan dalam media bereputasi jelas dan menerapkan sistem langganan. Biaya langganan itu menopang sebagian upaya verifikasi dan pengolahan data agar bisa menjadi informasi berkualitas.

Para pengembang AI, meski punya modal miliaran dollar AS, tidak mau membayar biaya langganan itu. Mereka malah memilih mengakses informasi gratis dengan kualitas tak jelas atau merekrut pelatih AI yang tidak jelas kualifikasinya.

Klaudia Jazwinka dan Aisvarya Chandrasekar dalam makalah yang diterbitkan di Columbia Journalism Review edisi Maret 2025 membahasnya lebih lanjut. Mereka menemukan, baik program AI gratis maupun berbayar mengalami halusinasi AI.

AI berbeda dengan mesin pencari internet, misalnya Google, Bing, dan Yahoo. Di mesin pencari, jika tidak ada sumber yang membahas topik di kolom pencari, muncul keterangan ”tidak menemukan hasil” atau ”tidak menemukan jawaban”.

”Ini sangat berbeda dengan AI karena  diprogram harus memberi jawaban. Jika AI tidak menemukan sumber informasi, program mengarang jawabannya,” tulis Jazwinka dan Chandrasekar.

Mereka menemukan, program-program AI ini, selain mengarang jawaban, juga menyematkan tautan abal-abal, seolah sebagai ”sumber” jawaban tersebut. Ini berbahaya bagi pengguna yang tidak berpikiran kritik. Sebab, pengguna kemungkinan besar tidak mengklik tautan untuk mengecek keabsahannya.

Penelitian Jazwinka dan Chandrasekar maupun penelitian lain yang dilakukan Universitas Carnegie Mellon menemukan, AI ketika mengutip sumber yang asli pun keliru. Saat kutipan itu dicek ke artikel asli, ternyata artikel itu sejatinya tidak berhubungan dengan topik yang ditanyakan kepada AI.

Juga ada kecenderungan akhir-akhir ini semakin banyak AI tidak menyebut sumber informasinya. Beragam penelitian menemukan, AI mengutip artikel media arus utama atau jurnal tanpa menyebut sumber, apalagi nama penulis dan tautan ke laman resmi sumber itu.

Walhasil, berbagai media arus utama di negara-negara Barat menuntut perusahaan AI atas pelanggaran hak cipta. Beberapa di antaranya ialah Los Angeles Times, Forbes, Guardian, Politico, dan Business Insider. 

Pada 2023, harian New York Times menggugat Open AI. Sebagai koran berumur 174 tahun, banyak berita mereka yang terbit di atas 60 tahun lalu sudah bisa diakses gratis melalui laman perpustakaan nasional dan daerah di AS.

Persoalannya, mesin AI dalam memberi jawaban kepada pemakai kerap mencampuradukkan isi artikel lama ini dengan situasi terkini tanpa ada konteks. Padahal, etika penulisan banyak berubah dengan perkembangan aturan. Akibatnya, pemakai justru memperoleh informasi yang tidak hanya salah, tetapi juga menyesatkan.

Bronwyn Jones, Kepala Peneliti Institut Inovasi Bertanggung Jawab (RIC) di Inggris, menuturkan kepada BBC, kolaborasi perusahaan AI dengan media arus utama adalah kuncinya. Sudah saatnya kedua pihak bergandengan mencegah penyebaran misinformasi, disinformasi, apalagi hoaks. ”Perusahaan AI punya teknologi, media massa punya informasi akurat dan etika dalam mengolahnya,” kata Jones.

Suka ataupun tidak, AI semakin merasuki kehidupan sehari-hari. Berdasarkan laporan Berita Digital Institut Reuters 2025, sebanyak 15 persen warganet berumur 25 tahun ke bawah memakai AI untuk mencari berita dan informasi.

Firma pengelola sumber daya manusia dari Inggris, Nova Talent Network, meneliti, 1.000 pekerja berumur 16-28 tahun di negara itu tergantung kepada AI. Hasil penelitian Nova diterbitkan secara eksklusif oleh Daily Mail pada 20 Oktober 2025.

Sebanyak 45 persen responden yang diteliti memakai AI untuk mencari bahan obrolan dengan rekan kerja. Mayoritas responden memakai AI untuk mencari informasi cara menjalankan pekerjaan. ”Kita berhadapan dengan masyarakat yang sangat fasih berteknologi, tetapi tidak memiliki kepercayaan diri sehingga apa pun seolah diputuskan oleh AI,” kata Direktur Nova Talent Andrea Marino.

Sementara periset di Texas A&M University dan Purdue University menemukan hal lebih mencengangkan. Mereka menemukan otak pada model bahasa besar (LLM) bisa membusuk.

LLM komponen penting AI untuk memahami dan menghasilkan bahasa seperti yang dipakai manusia. LLM memproses bahasa dengan cara meringkas, menerjemahkan, menjawab, hingga memproduksi materi hasil kerja AI. Materi produksinya bisa teks, gambar, atau kode pemrograman.

LLM memungkinkan AI dan manusia berinteraksi. LLM juga di balik aplikasi seperti asisten virtual, perangkat pembuatan konten, hingga chatbot.

Tim di Texas A&M University dan Purdue University menemukan, asupan data sampah bisa membuat otak LLM membusuk alias terkena brain rot.

Ironisnya, banyak konten populer di dunia maya tergolong data sampah. Konten itu berkualitas rendah. Konsumsi berkelanjutan LLM pada data itu membuat otaknya membusuk.

Dampaknya, kemampuan LLM menurun. Penalarannya memburuk. LLM tidak bisa memahami teks panjang, cuma bisa mengerti teks pendek. Perilaku LLM juga jadi aneh. (REUTERS)