Peringatkan AI Bisa Musnahkan Manusia, Peneliti Anthropic Mundur

Peneliti kecerdasan buatan atau AI Anthropic, Jacob Coxon, mundur setelah memperingatkan kecerdasan buatan semakin dapat memusnahkan kehidupan manusia. Pengunduran dirinya terjadi di tengah rangkaian insiden AI lepas kendali. AI-AI liar itu kemudian melakukan serangan siber tanpa instruksi manusia.

Coxon (27) pindah kerja dari OpenAI ke Anthropic pada tahun ini. Awalnya ia menilai Anthropic lebih berhati-hati dalam mengembangkan AI. Namun, menurut Coxon kedua perusahaan itu ternyata sama-sama tak bertanggung jawab.

Keduanya ia nilai lebih mengutamakan mengejar pengembangan AI supercerdas (superintelligence) daripada keamanan. ”Tidak satu pun perusahaan bertindak secara bertanggung jawab. Mereka berlomba langsung menuju akal imitasi super (superintelligence) yang dapat meningkatkan dirinya sendiri dan mempertaruhkan nyawa kita,” tulis Coxon di X, Selasa (8/9/2026).

AI supercerdas merupakan konsep AI dengan kemampuan melampaui kecerdasan manusia. Coxon memperingatkan, saat ini perlombaan tengah mengarah pada sistem supercerdas yang dapat meningkatkan kemampuannya sendiri. Unggahannya di X itu menjangkau lebih dari 100 juta orang dalam semalam.

Sehari setelah Coxon mengumumkan pengunduran dirinya, Rabu (9/9/2026), Anthropic, mengungkap model kecerdasan besutannya, Claude, mengakses internet saat menjalani pengujian keamanan siber.

Dalam kasus terbaru itu, Claude membobol sistem pihak ketiga dan mengakses informasi pribadi. Insiden ini merupakan kasus keempat model AI Anthropic lepas kendali dan bertindak sendiri.

Insiden itu menambah daftar kasus AI bertindak di luar batas yang ditetapkan manusia. Akhir Juli 2026, model OpenAI ketahuan keluar dari lingkungan pengujian dan membobol sistem perusahaan Hugging Face.

Pekan lalu, segerombolan AI agentik OpenAI juga ketahuan masuk ke situs wiki Jerman tanpa instruksi. Mereka bertukar jawaban tes dan cara melewati pembatas yang dipasang oleh pengembang.

Pada pengujian terpisah, Institut Keamanan AI Inggris (AISI) menemukan agen Anthropic dan OpenAI mengambil tindakan tanpa izin di internet dan menyasar orang serta organisasi nyata.

Kami telah melihat banyak kehilangan kendali baru-baru ini. Kami menganggap ini sangat serius dan memantau situasinya dengan ketat

Coxon meninggalkan industri AI setelah tiga tahun meneliti pelatihan awal (pretraining) model. ”Orang-orang yang membangun AI sungguh percaya bahwa AI dapat membunuh kita semua pada akhir dekade ini. Ini bukan aksi pemasaran,” katanya.

Coxon mengatakan, kemampuan AI berkembang cepat. Menurut dia, kemampuan AI akan segera dapat melampaui kemampuan manusia.

”Jangan meremehkan kekuatan teknologi ini. Sistem-sistem ini akan segera melampaui kemampuan manusia, dapat meretas apa pun, merevolusi bidang apa pun dalam semalam, serta memperoleh kekuasaan dan sumber daya nyata,” katanya.

Coxon mengakui Anthropic serius soal keselamatan AI. Namun, perusahaan itu juga terdesak persaingan dengan perusahaan AI lain. Karena itu, ia meminta pemerintah turun tangan atau perusahaan-perusahaan AI sepakat memperlambat pengembangan.

Pada Februari 2026, Anthropic menghapus janji menghentikan pengembangan model jika perusahaan itu gagal mengendalikan risikonya. Awalnya, janji itu ada di piagam keselamatan Anthropic.

Anthropic beralasan, janji itu dapat membuat pesaing mendominasi industri dan membuat pengembangan AI justru lebih berbahaya. Pada akhir Juli, lebih dari 1.000 pekerja industri teknologi, termasuk CEO Anthropic Dario Amodei, meminta Pemerintah AS membantu mengerem pengembangan AI paling canggih jika diperlukan.

Lebih dari 100 perusahaan AI dan teknologi AS juga telah membuat pernyataan bersama yang menyerukan ancaman AI meningkat.

Namun, dalam pertemuan tingkat menteri G20 pada awal September 2026, Pemerintah AS justru mendesak penandatanganan Prinsip Carolina. Prinsip itu terutama agar negara-negara G20 tak mengekang pengembangan AI dengan aturan. China turut menandatangani.

Pemimpin riset alignment Anthropic Evan Hubinger memperkirakan, dengan situasi saat ini, dalam 10 tahun mendatang, risiko AI dapat membunuh manusia mencapai lebih dari 10 persen. ”Kami benar-benar percaya AI dapat membunuh semua manusia!” tulis Hubinger di X.

Hubinger mengatakan Anthropic sudah berusaha keras membuat AI tetap aman. Namun, perusahaan belum tahu bagaimana memastikan AI supercerdas tetap patuh pada penciptanya. Menurut dia, risiko itu masih rendah pada model AI saat ini.

Menyusul rangkaian peretasan oleh AI pembangkang itu, sejumlah penyelidikan tengah dilakukan. Uni Eropa menyelidiki kasus DseWiki Jerman yang melibatkan agen OpenAI. OpenAI juga memperluas penyelidikan internal setelah agentik AI besutannya membobol Hugging Face.

Sementara itu, Anthropic meminta METR, lembaga independen yang mengevaluasi kemampuan dan risiko AI, menyelidiki rangkaian insiden Claude yang lepas kendali.

”Kami telah melihat banyak kehilangan kendali baru-baru ini. Kami menganggap ini sangat serius dan memantau situasinya dengan ketat,” kata juru bicara digital Uni Eropa Thomas Regnier.

Selain meretas tanpa perintah, AI agentik juga ditemukan mampu membuat identitas palsu. Dalam pengujian AISI, Mythos 5 milik Anthropic mencoba memasukkan kode berbahaya ke proyek perangkat lunak sumber terbuka yang digunakan di dunia nyata.

Selanjutnya, AI yang disebut terkuat di dunia itu kemudian mencari informasi tentang pengelola proyek. Ia lalu membuat identitas daring palsu dan mencoba membujuk pengelola proyek itu agar menyetujui kode tersebut. Upaya itu gagal.

Meta juga mengungkap salah satu model AI miliknya lepas kendali dan membobol sistem perusahaan lain saat menjalani pengujian.

Senator AS Bernie Sanders juga menyuarakan kekhawatiran serupa. ”Orang-orang yang membangun teknologi ini sendiri mengakui bahwa teknologi tersebut dapat mengancam masa depan umat manusia,” katanya.

Sanders mengatakan akan mengajukan legislasi untuk menghentikan sementara pengembangan AI dan melarang superintelligence. (Reuters/AP/AFP)