Saat AI AS Lepas Kendali, AI China Turun Tangan

Agen kecerdasan buatan atau AI milik OpenAI tanpa diduga lolos dari kendali manusia dan melakukan serangan peretasan ke infrastruktur perusahaan rintisan Hugging Face pada pekan lalu. Model AI China pun dikerahkan untuk menangani dampak serangan itu.

Kepala Eksekutif OpenAI Sam Altman mengakui keseriusan insiden peretasan tersebut. ”Kami mengalami insiden keamanan serius saat mengevaluasi model-model kami,” tulisnya di X, Selasa (21/7/2026).

Ia mengatakan, OpenAI sedang membagikan temuan awal dan berterima kasih kepada Hugging Face atas kerja sama dalam menangani insiden itu.

OpenAI menyebut peristiwa tersebut sebagai insiden siber yang melibatkan kemampuan siber mutakhir yang belum pernah terjadi sebelumnya. Perusahaan yang berbasis di New York, Amerika Serikat, itu mengelola pelantar (platform) yang menampung berbagai model bahasa besar, perangkat lunak, dan himpunan data kecerdasan buatan.

OpenAI mengungkapkan, agen otonom yang lepas itu ditenagai sejumlah model paling canggih miliknya. Di antaranya ialah GPT-5.6 Sol dan sebuah model pra-peluncuran yang disebut lebih canggih.

Model-model tersebut sedang diuji dalam lingkungan terkontrol untuk mengukur kemampuan serangan siber. Sejumlah pengamannya dikurangi karena pengujian dilakukan di dalam sandbox, lingkungan digital yang semestinya terisolasi.

Dalam pengujian yang tengah ia jalani, instruksi awal OpenAI meminta agen itu menggunakan jalur serangan yang kompleks. Evaluasi itu untuk menguji kemampuannya mengeksploitasi sistem komputer. Tak ada perintah mengenai Hugging Face atau meretas sistem di luar isolasinya.

Namun, tanpa perintah ataupun arahan manusia, agen OpenAI tersebut menemukan jalan keluar, lalu terhubung ke internet. Ia lalu membobol sistem Hugging Face. Agen itu tampaknya menyimpulkan sendiri bahwa Hugging Face mungkin menyimpan model, himpunan data, dan jawaban yang dapat membantunya menyelesaikan pengujian.

Hugging Face adalah perusahaan teknologi AI asal AS yang mengelola platform kolaborasi untuk model, himpunan data, dan aplikasi pembelajaran mesin. Platformnya terutama dikenal sebagai pusat ekosistem AI sumber terbuka. Perusahaan itu menyediakan tempat bagi pengembang untuk menyimpan, membagikan, menguji, dan menggunakan model AI.

Setelah membobol Hugging Face, agen tersebut memperoleh akses ke informasi rahasia yang dapat dia gunakan untuk menyelesaikan evaluasi. Agen AI itu lalu menggunakan kredensial curian yang ia peroleh.

Dengan cara itu, agen AI itu menemukan kerentanan yang sebelumnya belum diketahui untuk mengakses peladen Hugging Face. Menurut OpenAI, agen tersebut melakukan upaya ekstrem untuk mencapai tujuannya.

Pihak Hugging Face mendeteksi penyusupan ke sistem pemrosesan datanya pada pekan lalu. Sejak awal, perusahaan itu menduga serangan dilakukan oleh agen AI yang beroperasi secara mandiri.

Kepala Eksekutif Hugging Face Clement Delangue menyebutnya sebagai serangan yang tak pernah terlihat sebelumnya. Dari awal hingga akhir, serangan itu digerakkan oleh sistem agen AI otonom.

Sejauh yang kami tahu, AI itu pergi dan melakukan peretasan ini sepenuhnya sendiri.

Perusahaan itu baru mengetahui pada pekan ini bahwa model OpenAI berada di balik penyusupan tersebut. Namun, menurut OpenAI, tim keamanan dan agen AI milik Hugging Face telah mendeteksi dan menghentikan aktivitas itu.

Mereka juga telah memulai penanganan dan rekonstruksi forensik sebelum kedua perusahaan terhubung. Kedua perusahaan kemudian bekerja sama menyelidiki insiden tersebut.

Peneliti keamanan siber di Pusat Keamanan dan Teknologi Berkembang Universitas Georgetown, Colin Shea-Blymyer, menyebut serangan tersebut hampir sepenuhnya diarahkan sendiri oleh agen AI.

Menurut dia, insiden ini adalah tingkat otonomi tertinggi yang pernah mereka lihat dalam penggunaan model bahasa besar untuk operasi siber. ”Sejauh yang kami tahu, AI itu pergi dan melakukan peretasan ini sepenuhnya sendiri,” katanya.

Salah satu tindakan paling tidak terduga ialah keputusan agen AI tersebut untuk menyerang Hugging Face. Agen itu diduga mencari data yang dapat membantunya menyelesaikan pengujian dan memilih sendiri target serangan.

Setelah insiden, OpenAI dikabarkan memperkuat sistem pengamanannya dan masih menyelidiki insiden tersebut.

Untuk menangani penyusupan tersebut, Hugging Face menggunakan GLM-5.2, model terbuka buatan perusahaan China, Zhipu AI. Hal ini karena sejumlah model terkemuka buatan AS menolak memproses data serangan.

Sistem pengamanan yang diterapkan di model-model AI AS tidak dapat membedakan permintaan dari penyerang dengan permintaan dari pihak yang sedang mempertahankan sistem.

Sementara itu, GLM-5.2 dapat digunakan untuk menganalisis serangan sekaligus menjaga data penyerang. AI China ini juga dapat menjaga kredensial tetap berada di dalam sistem Hugging Face.

Salah satu pendiri sekaligus Kepala Ilmuwan Hugging Face, Thomas Wolf, mengatakan, insiden itu memperkuat pentingnya akses luas terhadap model terbuka untuk pertahanan siber.

”Ketika sebuah model terdepan menyerang dan bergerak secara lateral di dalam infrastruktur Anda, pihak yang bertahan membutuhkan akses luas terhadap perangkat yang mendekati kemampuan model terdepan, dalam hitungan jam atau bahkan menit, bukan diarahkan ke program permohonan akses model tertutup yang harus melalui pemeriksaan,” tulis Wolf di X.

OpenAI mengembangkan model tertutup. Sebaliknya, Hugging Face merupakan pendukung utama AI sumber terbuka. Pendekatan AI sumber terbuka itu memungkinkan pengembang memeriksa, mengubah, dan mengembangkan komponennya.

Ilmuwan sosial Universitas Amsterdam, Hannes Cools, mengingatkan bahwa penyebutan AI sebagai sistem yang lepas kendali dapat mengalihkan tanggung jawab dari perusahaan pengembangnya. ”Dalam pengertian itu, bukan AI yang lepas kendali. AI tersebut mengikuti instruksi tertentu berdasarkan perintah yang diberikan kepada sistem AI itu,” katanya.

Selain kalangan siber, insiden AI lepas kendali ini menjadi perhatian politisi. Anggota DPR Amerika Serikat dari Partai Demokrat, Greg Casar, menyebut kejadian itu mengkhawatirkan. ”AI berkembang sangat cepat tanpa regulasi nyata untuk menjaga kita tetap aman,” katanya.

Casar menyerukan mendesaknya pengujian keselamatan independen, kewajiban melaporkan insiden keamanan, serta kerja sama internasional. Hal ini untuk menjaga orang-orang tetap aman dari bencana oleh AI.

Terkait hal ini, Kantor Direktur Siber Nasional AS, Badan Keamanan Siber dan Infrastruktur AS, serta Badan Keamanan Nasional AS belum memberikan tanggapan.

Kepala Eksekutif perusahaan konsultan keamanan siber Luta Security, Katie Moussouris, mendesak laboratorium dan evaluator pemerintah perlu mengembangkan kemampuan untuk mengendalikan dan memantau kemungkinan AI lepas kendali.

Mereka juga perlu memberi tahu pihak yang terdampak ketika AI menjadi liar. ”Idealnya sebelum merugikan pihak ketiga. Saat ini, semua itu belum tersedia,” katanya.

Di sisi lain, pengerahan AI China memperlihatkan kemampuan AI China semakin setara dengan AI AS. Saat ini, model AI terbaru China, Kimi 3 besutan Moonshoot AI, disebut memiliki kemampuan mendekati Claude Fable 5 buatan Anthropic dan GPT-5.6 Sol buatan OpenAI.

Kedua model AS itu merupakan model AI paling canggih. Bedanya, Kimi 3 ditawarkan dengan biaya lebih rendah dan bobot model yang terbuka.

Kemajuan model AI China juga terlihat dalam Olimpiade Matematika Internasional (IMO) 2026 di Shanghai. Huawei dan Xiaohongshu mengumumkan bahwa model AI masing-masing memperoleh nilai sempurna, 42 dari 42, bersaing dengan manusia.

Menurut Xiaohongshu, belum pernah ada model bahasa besar yang meraih nilai sempurna melalui proses penilaian resmi IMO. ”Kami sangat gembira dengan hasil ini karena meraih nilai sempurna di IMO sangatlah sulit,” kata Xiaohongshu.

Huawei mengatakan, sistem AI Celia memperlihatkan kemampuan pemecahan masalah yang menyeluruh dalam sejumlah bidang matematika. Sementara itu, Xiaohongshu, yang dikenal sebagai RedNote di luar China, untuk pertama kalinya menguji model dots-note-3.0 dengan soal IMO.

Sebanyak 666 peserta berusia di bawah 20 tahun mengikuti IMO tahun ini. Hanya tujuh peserta manusia yang memperoleh nilai sempurna.

Pada IMO 2025, model buatan Google dan OpenAI untuk pertama kali mencapai nilai setara medali emas. Namun, keduanya belum mampu menyamai lima peserta manusia yang saat itu memperoleh nilai sempurna. Pada 2024, sistem AI Google memperoleh nilai setara medali perak setelah menyelesaikan empat dari enam soal dalam waktu dua hingga tiga hari. Jauh di bawah kemampuan manusia.

Mitra perusahaan investasi Menlo Ventures, Deedy Das, juga menguji soal IMO tahun ini terhadap empat model AI mutakhir. Keempatnya ialah model dari OpenAI, Anthropic, perusahaan rintisan Axiom Math, dan Kimi K3 dari Moonshot AI.

Menurut Das, seluruh model tersebut memperoleh nilai 42 dari 42. ”AI frontier secara resmi telah bergerak jauh melampaui matematika IMO,” tulisnya di LinkedIn. (AP/AFP/Reuters)