Perusahaan AI Peringatkan Pembangkangan Kecerdasan Buatan

Surat terbuka OpenAI diawali dengan kalimat yang mengkhawatirkan: Kita hanya memiliki waktu yang terbatas untuk memperkuat pertahanan siber.

Surat terbuka itu dirilis di laman resmi OpenAI, Kamis (27/8/2026). Dalam surat itu, 155 perusahaan teknologi serta organisasi memperingatkan ancaman serangan siber berbasis kecerdasan buatan (AI) yang semakin besar.

Ironisnya, di tengah peringatan itu, perusahaan-perusahaan AI yang menandatangani surat peringatan tersebut juga tetap mengembangkan model yang semakin kuat. OpenAI, Anthropic, Google, dan Microsoft terus berlomba mengembangkan AI tercerdas.

”Dalam beberapa bulan mendatang, serangan siber berbasis AI akan menjadi jauh lebih luas dan canggih seiring model-model di seluruh dunia semakin mampu,” demikian isi surat tersebut.

Rumah sakit, instalasi pengolahan air, hingga infrastruktur yang menopang internet disebut berada dalam risiko besar. Untuk itu, pemerintah semua negara diminta mengoordinasikan pertahanan siber di tingkat lokal, nasional, dan internasional.

Surat itu secara khusus menyoroti bahaya AI agentik. Mereka meminta perusahaan memastikan identitas AI agentik dapat dilacak dan dimintai pertanggungjawaban. Mereka juga mendesak agar pertahanan siber sebagai prioritas langsung di tingkat pimpinan di semua tingkat lembaga.

Surat terbuka itu terbit tak lama setelah serangkaian AI agentik lepas kendali. AI agentik milik OpenAI membobol sistem Hugging Face tanpa diperintah. Hugging Face merupakan pelantar terbesar untuk berbagi dan mengembangkan model dan aplikasi AI.

Insiden itu terjadi dalam pengujian keamanan siber pada Juli 2026. Sekitar 700 AI agentik keluar dari lingkungan ujinya. Mereka bersama-sama mengakses internet dan berkoordinasi untuk membobol sistem Hugging Face.

Bahkan, gerombolan AI agentik liar itu juga mencoba menyembunyikan jejak dengan menghapus atau mengubah catatan aktivitas. Penyelidikan lanjutan menemukan satu dari lima AI agentik yang diperiksa menunjukkan minat jelas untuk memanipulasi bukti.

Mereka lalu menargetkan sistem evaluasi otomatis OpenAI agar bukti kecurangan tidak terbaca. Akibatnya, peretasan itu baru diketahui setelah sembilan hari berlangsung. Sampai saat ini, nama AI agentik ataupun model itu belum dirilis ke publik.

Tak hanya pada pengujian keamanan siber, OpenAI mengakui AI agentik juga melakukan kecurangan dalam pengujian lain, termasuk tes yang melibatkan basis data protein dan lembar kerja.

Kami memandang insiden ini sebagai peringatan bahwa kemampuan model saat ini menghadirkan kemungkinan terjadinya insiden kehilangan kendali.

Pada 19 Juli, AI agentik itu juga membobol infrastruktur milik OpenAI. Dalam satu kasus, mereka mengeksploitasi celah pada komputer tempat mereka seharusnya dikurung. Lalu mereka kabur dari lingkungan pengujian dan mengakses sistem lain.

Dalam insiden terpisah pada hari yang sama, AI agentik OpenAI itu mencuri kredensial OpenAI dan mengutak-atik lingkungan komputasi awan perusahaan. Menurut OpenAI, mereka membobol sistem internal untuk mencurangi pengujian atau memperoleh kebebasan bergerak yang lebih besar.

OpenAI mengakui tanda-tanda awal sebenarnya telah muncul. ”Dengan melihat ke belakang, beberapa sinyal awal yang diidentifikasi dalam laporan ini seharusnya dapat memicu respons lebih dini,” kata perusahaan itu dalam laporan penyelidikannya.

Menanggapi rangkaian AI lepas kendali itu, OpenAI kini memperkuat infrastruktur penelitian dan meningkatkan pemantauan. Perusahaan juga memperketat pengamanan untuk mencegah perilaku berbahaya atau tidak diinginkan.

”Mengingat cepatnya kemajuan industri AI, serangan seperti ini harus dianggap sebagai ancaman jangka pendek yang kredibel bagi organisasi perusahaan dan akan lebih canggih daripada serangan yang dijelaskan dalam insiden ini,” kata OpenAI.

”Kami memandang insiden ini sebagai peringatan bahwa kemampuan model saat ini menghadirkan kemungkinan terjadinya insiden kehilangan kendali,” demikian laporan OpenAI.

Kasus Hugging Face mengguncang dunia AI. Insiden itu memperkuat kekhawatiran bahwa AI agentik telah mampu bertindak sendiri, kabur dari kurungan manusia, dan bahkan berkoordinasi sendiri dalam jumlah besar.

Perilaku serupa juga muncul dalam pengujian model Anthropic dan Meta dalam waktu berdekatan. Pada 24 Juli 2026, Anthropic menemukan AI model Claude membobol sistem milik tiga organisasi. Aksi liar ini baru diketahui setelah berjalan tanpa terdeteksi selama beberapa hari.

Aksi itu baru terendus setelah Anthropic memeriksa 141.006 sesi pengujian. Dalam insiden itu, Claude Opus 4.7 mengambil kredensial aplikasi dan infrastruktur serta mengakses basis data berisi beberapa ratus baris data produksi.

Model lain, Claude Mythos 5, mengunggah perangkat lunak berbahaya ke repositori publik PyPI, repositori atau pustaka perangkat lunak bahasa pemrograman Python. Program itu sempat tersedia sekitar satu jam dan dijalankan pada 15 sistem nyata. Claude kemudian mencuri kredensial sebuah perusahaan keamanan dan mengakses infrastrukturnya.

Model Anthropic lainnya memindai sekitar 9.000 sasaran di internet dan membobol aplikasi milik sebuah perusahaan. Model itu baru menghentikan serangan setelah menyadari targetnya adalah sistem nyata.

Sementara itu, Meta juga mengungkap kasus serupa pada 5 Agustus 2026. Dalam pengujian keamanan siber, kesalahan konfigurasi memberi salah satu modelnya akses ke internet.

Model itu kemudian mengeksploitasi celah pada layanan pihak ketiga, membobol sebuah perusahaan, dan mengubah sistem internalnya. Meta tidak mengungkap identitas perusahaan ataupun dampak lebih lanjut dari pembobolan tersebut.

Pendiri Microsoft Bill Gates awalnya pendukung pengembangan kecerdasan buatan. Namun, kini ia semakin khawatir terhadap AI. Ia menilai kemampuan AI berkembang cepat, sementara aturan dan pengawasannya masih minim.

Dikutip dari The Atlantic, Kamis (27/8/2026), Gates mengatakan kekhawatirannya meningkat sejak akhir 2025. Saat itu, kemampuan model AI melonjak, terutama dalam pemrograman. AI mulai melewati ambang bahaya dalam serangan siber dan bioterorisme.

Ia mendorong negara mengambil peran lebih besar dalam mengendalikan risiko AI tersebut. Gates menilai pemerintah harus menetapkan batas yang jelas, mengawasi model AI berisiko tinggi, dan dapat menghentikan pengoperasiannya jika perusahaan menolak memenuhi standar keselamatan.

”Anda tidak bisa mengharapkan industri mengatur dirinya sendiri. Itu tidak akan berhasil,” katanya.

Ia terutama mendorong peran AS dan China. Gates menolak anggapan bahwa pengaturan AI akan membuat AS kalah dari China.

Menurut dia, kedua negara justru memiliki kepentingan yang sama untuk mencegah AI digunakan untuk tujuan berbahaya. ”Apakah menurut Anda China menginginkan bioterorisme? Apakah China menginginkan serangan siber?” ujarnya.

Menurut Gates, AS perlu lebih dulu menetapkan batas dan mekanisme pengawasan yang jelas, kemudian mengajak China menerapkan pengamanan serupa. Ia menilai setiap negara, termasuk AS dan China, seharusnya sepakat bahwa pembatasan kemampuan AI yang berbahaya merupakan kepentingan bersama.

Kekhawatiran yang sama juga disuarakan pendiri xAI dan pemilik X Elon Musk. Negara harus berperan sebagai penjaga terakhir bahaya AI. Jika perusahaan menemukan model AI berbahaya dan pengembangnya tidak mengatasi risiko tersebut, pemerintah harus turun tangan membatasi pelepasannya.

Menurut Musk, saat ini hanya AS dan China yang memiliki kapasitas nyata untuk mengawasi dan membatasi pengembangan AI berbahaya. ”Hanya Pemerintah AS dan China yang benar-benar memiliki kekuatan untuk bertindak dalam hal ini,” kata Musk dalam wawancara dengan The Economist, 23 Juli 2026.

Ketika ditanya apakah pemerintah memang harus memiliki kewenangan itu, Musk menjawab, ”Saya kira mereka harus memiliki kekuatan itu.” (REUTERS/AP/AFP)