Keamanan dan Kedaulatan AI Menjadi Sorotan di Sidang PBB

NEW YORK, RABU — Sejumlah negara mendesak penguatan keamanan dan kedaulatan kecerdasan artifisial dalam Sidang Majelis Umum PBB. Negara-negara yang mendominasi teknologi itu diminta membuka dialog untuk mengendalikan risiko.

Sekretaris Jenderal PBB Antonio Guterres mengatakan, negara-negara yang memimpin pengembangan kecerdasan buatan atau akal imitasi (AI) harus berbagi informasi mengenai risiko keselamatan, bekerja sama dalam pengujian dan evaluasi, serta menyusun langkah perlindungan bersama.

”Pemerintah dengan kemampuan AI terbesar memiliki tanggung jawab terbesar kepada umat manusia untuk membangun saluran dialog,” katanya dalam pidato pembukaan debat umum Sidang Majelis Umum PBB di New York, AS, Selasa (22/9/2026), waktu setempat.

Guterres menegaskan, persaingan geopolitik justru menjadi alasan untuk membangun dialog, transparansi, kepercayaan, dan kerja sama. Ia mengingatkan, pada masa Perang Dingin, negara-negara yang bersaing membangun mekanisme untuk mengurangi kesalahpahaman, mengelola eskalasi, dan mencegah bencana akibat persenjataan nuklir.

Menurut dia, AI kini membutuhkan kejelasan tujuan dan urgensi serupa senjata nuklir. Untuk itu, Guterres menyerukan pengaturan laju pengembangan AI secara bertanggung jawab. Ia juga mendesak penyusunan kerangka multilateral pengelolaan risiko AI dengan pengawasan yang kredibel dan independen.

Tanpa menyebut AS dan China, seruan Guterres dinilai ditujukan bagi AS dan China. Sejauh ini, kedua negara itu memimpin pengembangan AI.

Menjelang sidang, pemimpin lebih dari 20 negara, sebagian besar dari Eropa, menyerukan langkah-langkah keselamatan yang mengikat bagi AI canggih. Mereka memperingatkan, perkembangan teknologi itu bisa melampaui kemampuan manusia mengendalikannya. AS dan China tidak mendukung gagasan tersebut.

Saat ini, AS dan China tengah membahas pembentukan saluran komunikasi untuk persoalan AI. Pembahasan dilakukan menjelang pertemuan Presiden AS Donald Trump dan Presiden China Xi Jinping di Washington, Kamis (24/9/2026).

Dalam pidato di Sidang Majelis Umum PBB, Inggris menawarkan kepemimpinan dalam penyusunan standar keselamatan AI global. Perdana Menteri Inggris Andy Burnham mengatakan keputusan mendasar mengenai AI harus diambil pemerintah terpilih, bukan diserahkan kepada perusahaan teknologi.

Burnham mengatakan, Inggris akan menempatkan AI sebagai agenda utama kepresidenannya di G20 pada 2027. London akan mengupayakan kesepakatan mengenai satu perangkat prinsip dan standar global untuk memastikan pengembangan AI berlangsung aman.

”Kami akan mengupayakan kesepakatan mengenai satu perangkat prinsip dan standar global untuk menjamin transparansi dan akses yang diperlukan guna meningkatkan kesiapan serta memastikan pengembangan AI berlangsung aman,” katanya.

Pemerintah dengan kemampuan AI terbesar memiliki tanggung jawab terbesar kepada umat manusia untuk membangun saluran dialog.

Menurut Burnham, Inggris dapat menjadi penengah karena punya hubungan dekat dengan AS. Sementara itu, hubungan Inggris dengan Uni Eropa membaik serta hubungan cukup baik dengan China dan India.

Inggris juga mendesak perusahaan-perusahaan AI membuka informasi secara menyeluruh tentang model-model terbaru mereka. Menurut kantor Burnham, permintaan itu disampaikan pejabat Inggris dalam pembicaraan dengan para pemimpin industri AI. Keterbukaan perusahaan dinilai penting agar Inggris lebih siap menghadapi risiko teknologi tersebut.

Namun, Trump tetap menolak pengaturan AI. Dalam pidatonya, ia menyatakan, AS sepenuhnya menolak segala upaya membangun skema global untuk mengendalikan AI.

Trump menyamakan peringatan para pendukung keselamatan AI dengan peringatan tentang perubahan iklim. Padahal, peran aktivitas manusia sebagai penyebab perubahan iklim ditegaskan oleh konsensus luas komunitas ilmiah. ”Setiap teknologi baru yang besar membawa tantangan, dan kecerdasan super tidak terkecuali,” katanya.

Trump juga mengumumkan penggantian istilah kecerdasan artifisial menjadi kecerdasan super dalam komunikasi resmi Pemerintah AS ke depan. Menurut dia, istilah baru itu ”terdengar jauh lebih baik” dan jauh lebih akurat.

Meskipun berbeda sikap dengan Washington mengenai pengaturan AI, London tetap mengembangkan kerja sama pertahanan AI dengan AS. Kemitraan pertahanan AI ini ditujukan untuk melindungi infrastruktur nasional vital serta mendeteksi dan menangkal ancaman.

”Hari ini saya mengumumkan bahwa kami sedang mengembangkan kemitraan pertahanan AI baru dengan Amerika Serikat untuk melindungi infrastruktur nasional vital kami,” kata Burnham di pidatonya.

Menurut Pemerintah Inggris, kerja sama itu mencakup teknologi AI dan sistem otonom. Cakupan perlindungan dalam kemitraan itu meliputi jalur laut hingga ruang udara.

Kedua negara akan memanfaatkan teknologi yang dikembangkan di Inggris dan AS untuk mendeteksi ancaman. Kerja sama tersebut melibatkan Satuan Tugas Percepatan Penerapan AI Kementerian Pertahanan Inggris serta Kantor Kepala Digital dan AI Departemen Perang AS.

Burnham juga mengumumkan rencana pembentukan Pusat Nasional Pertahanan Informasi. Lembaga itu akan mendeteksi, mengidentifikasi pelaku, dan menggagalkan serangan informasi oleh negara yang bermusuhan, serta mengidentifikasi konten palsu hasil manipulasi AI deepfake yang merugikan kepentingan Inggris.

Trump dan Burnham juga bertemu di sela-sela Sidang Majelis Umum PBB di New York, Selasa (22/9/2026). Ini merupakan pertemuan tatap muka pertama mereka sejak Burnham menjadi perdana menteri. Keduanya membahas sejumlah isu, termasuk energi, imigrasi, dan hubungan bilateral.

Sementara itu, Presiden Perancis Emmanuel Macron menyerukan pengembangan AI yang berdaulat dan tidak bergantung pada kekuatan besar. Ia mengusulkan penghimpunan investasi bersama antarnegara untuk membangun model AI sumber terbuka. AI tersebut kemudian dapat dibagikan pada negara peserta investasi.

”Saya tidak ingin siapa pun menjadi bawahan salah satu kekuatan besar,” kata Macron, yang tampaknya merujuk pada AS dan China.

Pembahasan AI akan berlanjut di Dewan Keamanan PBB, Rabu (23/9/2026). Perancis, yang memegang kepresidenan dewan bulan ini, memprakarsai pertemuan itu karena menilai ancaman AI terhadap perdamaian dan keamanan internasional belum cukup dibahas di PBB.

CEO OpenAI Sam Altman dijadwalkan berbicara dalam pertemuan tersebut. Menurut seorang pejabat Perancis, CEO Anthropic Dario Amodei dan salah satu pendiri Hugging Face, Clement Delangue, juga akan berpartisipasi secara jarak jauh. (Reuters/AFP)