Debat AI di PBB, Pemimpin Dunia Berkutat di Retorika Lama

NEW YORK, KAMIS — Kecerdasan buatan atau AI kembali menjadi sorotan utama dalam sidang terbuka Dewan Keamanan PBB, Rabu (24/9/2025). Namun, perdebatan masih berputar pada dikotomi lama, yaitu AI dipandang sebagai pedang bermata dua, dari kecemasan senjata pemusnah massal hingga pembawa perdamaian.

”Pertanyaannya bukan apakah AI akan memengaruhi perdamaian dan keamanan internasional, melainkan bagaimana kita membentuk pengaruhnya agar digunakan secara bertanggung jawab,” ujar Sekretaris Jenderal PBB Antonio Guterres dalam sambutan pembuka.

Pada Kamis (25/9/2025), Guterres dijadwalkan meluncurkan forum Global Dialogue on AI Governance. Forum ini akan menjadi wadah dialog antarnegara, pemangku kepentingan, dan akademisi untuk membentuk kerangka kerja sama internasional. Forum tersebut dijadwalkan bersidang secara resmi di Geneva tahun depan, dan di New York pada 2027.

Proses seleksi juga akan mulai dijalankan untuk membentuk panel ilmiah beranggotakan 40 pakar, termasuk dua ketua bersama yang berasal dari negara maju dan negara berkembang. Panel ini kerap dibandingkan dengan Panel Antarpemerintah tentang Perubahan Iklim (IPCC) dan konferensi tahunan COP.

Guterres menyebut bahwa artificial intelligence (AI) memiliki kapasitas untuk memperkuat upaya pencegahan krisis dan perlindungan umat manusia, mengantisipasi kerawanan pangan dan pengungsian, membantu penjinakan ranjau, hingga mendeteksi potensi pecahnya konflik. Namun, ia memperingatkan, tanpa regulasi dan kontrol yang tepat, teknologi ini bisa disalahgunakan sebagai senjata mematikan.

Sidang terbuka ini menegaskan kesadaran global bahwa AI menyimpan peluang sangat besar, sekaligus risiko yang tidak boleh diabaikan. Namun, seperti pada forum-forum sebelumnya, nada yang muncul kembali didominasi oleh metafora lama, yaitu ancaman dan harapan. Belum ada terobosan berarti dalam menegakkan tata kelola global mengenai AI guna mencegah ancamannya. 

Bukan kali ini saja PBB menyoroti AI dengan bingkai serupa. Pada Juli 2023, dalam laporan resminya kepada Majelis Umum, Guterres sudah menyebut AI sebagai pedang bermata dua. Tahun 2023 itu, Dewan Keamanan DK PBB untuk pertama kalinya menggelar perdebatan khusus tentang AI.

Selanjutnya, berbagai Konferensi Tingkat Tinggi (KTT) AI menghasilkan pernyataan bersama, tetapi tak lebih dari janji non-mengikat. KTT AI itu, antara lain, digelar di London, Seoul, hingga Paris.

Pertanyaannya bukan apakah AI akan memengaruhi perdamaian dan keamanan internasional, melainkan bagaimana kita membentuk pengaruhnya agar digunakan secara bertanggung jawab.

Padahal, selama forum global berkutat di retorika yang sama itu, kemajuan teknologi AI terus melesat. Dalam tiga tahun terakhir, model bahasa generatif berkembang dari sekadar chatbot menjadi sistem yang jauh lebih canggih. Model bahasa generatif telah mampu membuat video, menulis kode kompleks, bahkan merancang obat baru.

Perusahaan teknologi juga semakin berlomba membangun pusat data raksasa dengan investasi hingga ratusan miliar dollar AS.

Penerapan AI pun terus menguat di kehidupan sehari-hari. Dalam Pemilu 2024, misalnya, teknologi deepfake dipakai untuk manipulasi kampanye di sejumlah negara. Di sektor kesehatan, algoritma AI generatif mulai digunakan untuk mempercepat desain obat dan memprediksi struktur protein.

Di ranah militer, sejumlah investigasi menyebut beberapa negara sudah menguji penggunaan AI untuk sistem pesawat nirawak (drone) dan perencanaan operasi tempur.

Pada Agustus 2025, Majelis Umum PBB mengesahkan resolusi pembentukan dua lembaga baru terkait AI, yaitu forum global dan panel ilmiah independen yang akan mengawal tata kelola AI di tingkat internasional. Langkah ini dipandang sebagai tonggak sejarah dalam upaya membangun tata kelola global atas teknologi AI.

Resolusi ini merujuk pada laporan badan penasihat tingkat tinggi PBB tentang AI, Governing AI for Humanity, yang diluncurkan pada September 2024. Laporan tersebut berisi tujuh rekomendasi, mulai dari pembentukan panel ilmiah global yang independen, dialog kebijakan antarnegara, hingga mekanisme pertukaran standar AI lintas batas.

Laporan itu juga mendorong lahirnya jejaring global, dana internasional untuk mendukung negara berkembang di bidang AI, kerangka tata kelola data yang adil, serta pendirian kantor AI di dalam Sekretariat PBB.

Rekomendasi ini dipuji sebagai cetak biru awal tata kelola AI global. Namun, sejumlah pakar mengingatkan implementasinya bisa terhambat jika tidak dilengkapi mandat yang mengikat. Para pakar juga menilai sifatnya hanya simbolis.

Peneliti di Chatham House, Isabella Wilkinson, menilai langkah PBB ini adalah pendekatan paling inklusif secara global. Tetapi, apabila tidak diikuti dengan aturan yang benar-benar mengikat dan dapat ditegakkan, mekanisme baru itu bisa jadi hanya simbolis.

”Arsitektur tata kelola AI baru PBB ini adalah kemenangan simbolis. Langkah ini juga ambisius. Namun, dalam praktiknya, mekanisme baru ini tampaknya akan lebih banyak tak berdaya,” tulisnya di sebuah blog Chatham House, Agustus 2025, tak lama setelah resolusi Majelis Umum PBB disahkan.

Isu lain yang juga berulang adalah kecemasan ketertinggalan negara-negara berkembang di sektor AI. Presiden Somalia, Hassan Sheikh Mohamud, memperingatkan bahaya kolonialisme digital. Menurut dia, hanya lewat kemitraan yang adil AI bisa menjadi alat untuk kemajuan kolektif, bukan pemicu kesenjangan.

Menteri Luar Negeri Aljazair Ahmed Attaf menyebutkan, hanya 10 dari 55 negara anggota Uni Afrika yang memiliki regulasi teknologi informasi yang memadai. Ia menyoroti lemahnya kerangka hukum sebagai tantangan serius bagi kedaulatan digital negara-negara Afrika.

Doreen Bogdan-Martin, Sekretaris Jenderal Uni Telekomunikasi Internasional (ITU), badan PBB yang berbasis di Geneva, juga menekankan perlunya pendekatan bersama secara global untuk mencegah risiko AI dan ketidaksetaraan semakin lebar.

Menurut dia, pendekatan yang terpecah-pecah antara Amerika Serikat, Uni Eropa, dan China, seperti yang terjadi saat ini, tidak akan memperbaiki kondisi. ”Menemukan kerangka yang tepat sangat mendesak,” ujarnya.

Ia mengingatkan, 85 persen negara di dunia belum memiliki kebijakan atau strategi AI. Tanpa kesepakatan global, jutaan orang bisa tertinggal. Saat ini, 2,6 miliar orang masih belum memiliki akses internet, artinya sama sekali tak tersentuh manfaat AI.

Bogdan-Martin mengatakan, tanpa upaya serius, AI akan memperparah ketimpangan. Ia juga menyoroti minimnya keterlibatan perempuan di sektor AI yang menurutnya sangat jauh dari memadai.

Di luar forum resmi, tekanan juga datang dari komunitas ilmuwan dan tokoh publik dunia. Lebih dari 200 figur terkemuka menandatangani surat terbuka yang dirilis bertepatan dengan pembukaan sidang Majelis Umum PBB pekan ini.

Surat ini menyerukan agar setiap negara di dunia dengan tegas menetapkan garis merah atau garis yang tak boleh dilanggar untuk AI sebelum akhir tahun depan. Para tokoh itu, antara lain, 10 penerima nobel, politisi, serta peneliti di perusahaan AI besar, seperti Anthropic, Google DeepMind, Microsoft, dan OpenAI.

”AI memiliki potensi besar untuk meningkatkan kesejahteraan manusia. Namun, lintasan perkembangannya saat ini menghadirkan bahaya yang belum pernah terjadi sebelumnya,” demikian isi surat tersebut.

Contoh garis merah yang diusulkan, antara lain, pengendalian senjata nuklir oleh AI, sistem senjata otonom mematikan, pengawasan massal, social scoring, serangan siber, dan AI yang menyamar sebagai manusia.

Dalam tulisannya, ”Make AI Safe or Make Safe AI?” (UNESCO, 2024), Profesor ilmu komputer dan Direktur Center for Human Compatible AI di Universitas California, Stuart Russell, menjelaskan, regulasi yang dibutuhkan saat ini bukan aturan setelah peristiwa buruk karena AI terjadi. Namun, regulasi agar pengembang AI merancang AI yang aman sejak sebelum diaktifkan.

Russell juga mengusulkan agar tata kelola AI di PBB bisa meniru cara kerja Organisasi Penerbangan Sipil Internasional (International Civil Aviation Organization/ICAO). Mereka mengoordinasikan regulasi keselamatan lintas negara. Ia menyarankan dibuat konvensi kerangka yang fleksibel yang selalu bisa diperbarui sesuai kemajuan AI. Bukan aturan yang kaku. (AP/AFP/REUTERS)