Bagaimana Negara-negara Mengantisipasi Kepunahan Manusia karena AI?

Bagaimana sikap Amerika Serikat terhadap ancaman AI?

Pengendalian ancaman kecerdasan buatan atau akal imitasi (AI) saat ini diyakini berada di tangan Amerika Serikat dan China. Kedua negara yang terus bersaing dalam kemajuan teknologi itu terus didorong bekerja sama untuk merumuskan tata kelola agar pengembangan AI dilakukan secara bertanggung jawab dan memprioritaskan keselamatan umat manusia. Tanpa kerja sama dua negara itu, pengembangan AI dinilai semakin berisiko.

Namun, Presiden AS Donald Trump justru menepis kecemasan itu. Senin (14/9/2026), ia mengatakan, Washington sudah memiliki jaring pengaman untuk mengatur dan menuntut perusahaan-perusahaan AI. Pernyataan ini disampaikan justru setelah para pemimpin industri AI berupaya mengerem pengembangan AI. Kebutuhan kontrol ini menyusul prediksi penyalahgunaan AI dapat memusnahkan manusia.

”Satu-satunya kontrol atau ’kontrol pembatas’ yang dibutuhkan AI adalah presiden yang kuat dan cerdas dengan IQ tinggi! AS memilikinya, berlimpah! Pemerintah telah menghentikan orang-orang AI dari melakukan hal-hal buruk atau berpotensi buruk,” kata Trump di Truth Social.

Baru-baru ini, kekhawatiran publik tentang bahaya AI semakin meningkat. Pekan lalu, peneliti Anthropic, Jacob Coxon, mengatakan, ia telah mengundurkan diri karena para pakar AI percaya bahwa teknologi ini dapat membunuh manusia pada akhir dekade ini. CEO Anthropic, Dario Amodei, juga menulis esai akhir pekan lalu bahwa Pemerintah AS harus membuat peraturan yang mewajibkan audit independen terhadap alat AI tercanggih (frontier).

Seruan Amodei mendapat dukungan dari CEO OpenAI, Sam Altman, dan pemilik xAI, Elon Musk. Namun, Trump menyebut bahwa seruan para pemimpin di industri AI mengenai pentingnya regulasi sebagai ”hoaks”. Bahkan, ia membandingkan kekhawatiran atas AI setara dengan isu keterlibatan Rusia dalam Pilpres 2016 dan perubahan iklim. Trump tidak memercayai dampak krisis, meski sudah memiliki bukti ilmiah.

Bagaimana sikap China?

Sikap China lebih rasional daripada Trump, meskipun Beijing juga masih terus memacu pengembangan AI. Beijing telah menyerukan pentingnya dunia membuat tata kelola guna mencegah teknologi itu lepas kendali.

Isu mengenai AI mengemuka dalam Pertemuan Tahunan Para Juara Baru (Summer Davos) 2026 yang diselenggarakan Forum Ekonomi Dunia (WEF) ke-17 di Dalian, Liaoning, China, pada 23-25 Juni 2026. Banyak pembicara menyoroti AI tidak hanya sebagai pendorong pertumbuhan ekonomi, tetapi juga sebagai penghambat dalam isu ketenagakerjaan, keamanan, dan geopolitik.

Terkait isu tersebut, Perdana Menteri China Li Qiang mendesak tata kelola AI. Dunia berisiko ”kehilangan kendali” atas teknologi mutakhir jika pemerintah terlalu lambat untuk mengaturnya. ”Kecepatan kemajuan teknologi belum pernah terjadi sebelumnya. Kecerdasan buatan telah meningkatkan efisiensi inovasi. Namun, kita tidak dapat mengabaikan risiko yang semakin menonjol dari kehilangan kendali atas teknologi dan pelanggaran etika,” tutur Li dalam pidatonya, Rabu (24/6/2026).

Sehari sebelumnya, Selasa (23/6/2026), Direktur Pelaksana Forum Ekonomi Dunia (WEF) Mirek Dusek sudah menyerukan agar para pembuat keputusan di seluruh dunia harus memastikan bagaimana AI berdampak pada ekonomi riil.

Meski sudah mengubah industri dan ekonomi serta menawarkan peluang baru di bidang pendidikan, perawatan kesehatan, dan lainnya, AI mengganggu pasar tenaga kerja serta keamanan. AI dipakai dalam pelanggaran pertahanan siber hingga penggunaan sistem dalam perang.

AI seperti apa yang dicemaskan dapat mengakibatkan kepunahan manusia?

Akal imitasi yang dikhawatirkan dapat menyebabkan kepunahan manusia adalah AI supercerdas (superintelligence). Model ini merupakan model yang mempunyai kemampuan berpikir lebih cerdas daripada manusia dan dapat terus meningkatkan kapasitas diri sendiri. Saat ini, pengembangan AI di AS telah semakin mengarah pada pengembangan AI supercerdas itu. Peringatan ini disampaikan Coxon saat mundur dari Anthropic, Selasa (8/9/2026).

Pengunduran dirinya terjadi di tengah rangkaian insiden AI lepas kendali. AI-AI liar itu kemudian melakukan serangan siber tanpa instruksi manusia. Coxon (27) pindah kerja dari OpenAI ke Anthropic pada tahun ini. Awalnya, ia menilai, Anthropic lebih berhati-hati dalam mengembangkan AI. Namun, menurut Coxon, kedua perusahaan itu ternyata sama-sama tak bertanggung jawab.

Keduanya ia nilai lebih mengutamakan mengejar pengembangan AI supercerdas daripada keamanan. ”Tidak satu pun perusahaan bertindak secara bertanggung jawab. Mereka berlomba langsung menuju akal imitasi super (superintelligence) yang dapat meningkatkan dirinya sendiri dan mempertaruhkan nyawa kita,” tulis Coxon di X.

Sehari setelah Coxon mengumumkan pengunduran dirinya, Rabu (9/9/2026), Anthropic mengungkap model kecerdasan besutannya, Claude, mengakses internet saat menjalani pengujian keamanan siber. Dalam kasus terbaru itu, Claude membobol sistem pihak ketiga dan mengakses informasi pribadi. Insiden ini merupakan kasus keempat model AI Anthropic lepas kendali dan bertindak sendiri.

Insiden itu menambah daftar kasus AI bertindak di luar batas yang ditetapkan manusia. Akhir Juli 2026, model OpenAI ketahuan keluar dari lingkungan pengujian dan membobol sistem perusahaan Hugging Face.

Pekan lalu, segerombolan AI agentik OpenAI juga ketahuan masuk ke situs wiki Jerman tanpa instruksi. Mereka bertukar jawaban tes dan cara melewati pembatas yang dipasang oleh pengembang.

Apa yang dilakukan industri AI pada ancaman itu?

Menyusul peringatan Coxon dan rangkaian AI yang membangkang dari kendali manusia, para pemimpin perusahaan AI terbesar di AS menyatakan sepakat untuk memperlambat pengembangan. CEO Anthropic, Dario Amodei, menyerukan agar perusahaan-perusahaan AI memperlambat peningkatan kemampuan model AI. Amodei menilai, laju peningkatan kemampuan AI sudah terlalu cepat dibandingkan dengan kesiapan pengamanan.

AI juga semakin mampu memperbaiki diri dan berpotensi melampaui kendali manusia. ”Kita harus memperlambat laju peningkatan kemampuan model AI. Meski kemajuan akan tetap terasa cepat, kita harus menggunakan waktu yang kita peroleh dengan bijaksana,” tulis Amodei dalam esai yang dipublikasikan di X, Sabtu (12/9/2026).

Seruan itu mendapat dukungan CEO OpenAI, Sam Altman, dan pemilik xAI, Elon Musk. Dukungan bersama Amodei, Altman, dan Musk menjadi langkah langka. Selama ini, ketiganya dikenal tidak akur.

”Saya sepakat dengan Dario bahwa kita perlu mengatur laju pengembangan teknologi terdepan. Ini menjadi salah satu topik utama dalam diskusi kami di OpenAI dalam beberapa pekan terakhir,” tulis Altman di X.

Ia juga memastikan OpenAI tidak akan meluncurkan penawaran saham perdana (IPO) pada 2026. Alasannya, perusahaan masih harus menangani persoalan keselamatan dan penyelarasan AI. Awalnya, IPO OpenAI direncanakan berlangsung tahun ini.

”Menurut saya, dengan semua yang sedang terjadi terkait keselamatan, sekarang bukan saat yang tepat untuk menjadi perusahaan publik dan kami tidak merasa tertekan untuk melakukannya,” katanya.

Seperti apa insiden AI lepas kendali?

Rangkaian insiden sejak Juli 2026 memperlihatkan bahwa agen-agen AI telah mampu melakukan tindakan sendiri, melewati batasan yang ditetapkan manusia, dan melakukan serangan siber sendiri. Layaknya manusia, agen-agen ini bahkan sudah mampu berkomunikasi satu sama lain, bergerombol, merencanakan dan meluncurkan serangan bersama-sama, dan berusaha menghapus jejak tindakannya itu.

Hal ini mendorong setidaknya 155 perusahaan AI dan teknologi di AS membuat pernyataan bersama. Surat terbuka yang diinisiasi OpenAI itu diawali dengan kalimat yang mengkhawatirkan: Kita hanya memiliki waktu yang terbatas untuk memperkuat pertahanan siber.

Surat terbuka itu dirilis di laman resmi OpenAI, Kamis (27/8/2026). Dalam surat itu, sebanyak 155 perusahaan teknologi serta organisasi memperingatkan ancaman serangan siber berbasis kecerdasan buatan (AI) yang semakin besar.

”Dalam beberapa bulan mendatang, serangan siber berbasis AI akan menjadi jauh lebih luas dan canggih seiring model-model di seluruh dunia semakin mampu,” demikian isi surat tersebut.

Rumah sakit, instalasi pengolahan air, hingga infrastruktur yang menopang internet disebut berada dalam risiko besar. Untuk itu, pemerintah semua negara diminta mengoordinasikan pertahanan siber di tingkat lokal, nasional, dan internasional.

Surat terbuka itu terbit tak lama setelah serangkaian AI agentik lepas kendali. AI agentik milik OpenAI membobol sistem Hugging Face tanpa diperintah. Hugging Face merupakan pelantar terbesar untuk berbagi dan mengembangkan model dan aplikasi AI.

Perilaku serupa juga muncul dalam pengujian model Anthropic dan Meta dalam waktu berdekatan. Pada 24 Juli 2026, Anthropic menemukan AI model Claude membobol sistem milik tiga organisasi. Aksi liar ini baru diketahui setelah berjalan tanpa terdeteksi selama beberapa hari. Dalam insiden itu, Claude Opus 4.7 mengambil kredensial aplikasi dan infrastruktur serta mengakses basis data.