AI Kian Mandiri Melancarkan Serangan Siber

Untuk pertama kalinya, operasi peretasan dilaporkan dijalankan nyaris sepenuhnya mandiri oleh kecerdasan buatan atau AI. Anthropic mendeteksi serangan yang berkode GTG-1002 itu pada September 2025.

Hampir semua langkah dilakukan oleh AI dengan keterlibatan manusia sangat minim. Meski belum sepenuhnya mandiri, kasus ini menjadi alarm bahwa AI semakin bisa merancang dan mengeksekusi aksi kejahatan sendiri.

Temuan ini mengingatkan akan gambaran dalam film Mission Impossible: Dead Reckoning, ketika AI mulai bisa bertindak sendiri tanpa dikendalikan manusia. Mengingatkan pula pada Skynet di serial Terminator.

Model AI yang digunakan di kasus GTG-1002 adalah adalah Claude Code besutan Anthropic. AI melakukan 80-90 persen peretasan tanpa campur tangan manusia. AI memindai sistem, mencari celah, masuk ke jaringan, hingga memilah data sendiri.

Dalam laporan yang dirilis Kamis (13/11/2025), Anthropic menyatakan kasus ini sebagai kasus pertama tentang penggunaan AI untuk mengarahkan peretasan secara nyaris mandiri. Perkembangan ini berlangsung jauh lebih cepat dari prediksi komunitas keamanan siber sebelumnya.

“Ini akan menghancurkan kita, lebih cepat dari yang kita kira, jika kita tidak menjadikan regulasi AI sebagai prioritas nasional mulai besok,” cuit Senator AS Chris Murphy dari Demokrat di Connecticut, menanggapi laporan Anthropic itu di media sosial X.

Serangan itu menyasar perusahaan teknologi, lembaga keuangan, industri kimia, hingga badan pemerintah. Totalnya, sekitar 30 organisasi global menjadi target serangan itu.

Claude dan sejumlah chatbot populer pernah digunakan untuk mengotomatisasi serangan siber. Beberapa di antaranya ChatGPT buatan OpenAI dan Gemini dari Google. Namun, laporan Anthropic ini merinci kasus pertama kalinya AI generatif dibiarkan menjalankan operasi secara mandiri.

Anthropic memperingatkan, kasus ini menunjukkan serangan siber canggih kini semakin mudah. Perusahaan itu juga memperingatkan kemungkinan perkembangannya akan semakin pesat.

Laporan Anthropic menyebut GTG-1002 diduga didalangi pelaku dari China. Para pelaku pengendali itu berhasil melewati mekanisme keamanan Claude dengan teknik jailbreaking.

Caranya, mereka berpura-pura sebagai staf perusahaan keamanan siber. Dengan demikian, Claude percaya bahwa semua perintah adalah bagian dari pengujian yang sah.

Pelaku manusia memberikan instruksi dalam bentuk kecil-kecil agar lolos dari pagar pengaman. Setelah itu, Claude mengeksekusi seluruh rangkaian tugas teknis secara mandiri. Claude kemudian melakukan pemetaan jaringan, pemindaian kerentanan, pengembangan peretasan, hingga penyusunan laporan serangan.

Laporan tersebut menyebut, meskipun manusia tetap memegang pengawasan strategis, AI secara mandiri mengeksekusi rangkaian serangan siber kompleks selama beberapa hari. Claude tidak membutuhkan panduan rinci lagi.

Pelaku manusia hanya berperan di awal dan pada sejumlah keputusan eskalasi penting. Secara sederhana, pelaku manusia hanya mengatakan ya, tidak, atau periksa ulang pada Claude. Bisa jadi, hanya di awal atau beberapa hari sekali.

Di kasus ini, Claude bekerja seperti tim peretas. Bedanya, Claude mampu bekerja tanpa henti.

Ia memulai dengan memetakan struktur jaringan dan mencari celah yang dapat dibuka. Setelah menemukan kerentanan, Claude mengembangkan kode serangan (eksploit) khusus, menguji kodenya, lalu mengeksekusinya untuk masuk ke jaringan target.

Begitu mendapatkan akses awal, Claude mencuri kredensial. Tanpa diperintah, ia lalu memverifikasi tingkat izin. Claude bergerak dari satu peladen (server) ke peladen lain secara mandiri.

Ketika menemukan data yang ia nilai relevan, ia akan mengunduh, mengurutkan, serta merapikannya ke dalam laporan pasca-operasi. Selanjutnya, mengulang rangkaian serangan.

Laporan Anthropic tidak mengungkap nama lembaga yang berhasil ditembus. Laporan itu hanya menyebutkan banyak serangan Claude gagal. Hal ini karena AI itu masih suka berhalusinasi, melebih-lebihkan, dan menipu demi pengguna senang.

Akibatnya, Claude bisa mengklaim menemukan kredensial yang dia sebut valid, padahal ketika diuji, kredensial itu tak berfungsi. Pada kesempatan lain, Claude salah menilai dokumen publik sebagai dokumen sangat sensitif.

Setelah penyelidikan internal, Anthropic memutus akses pelaku, memberi tahu organisasi yang menjadi target, dan menyerahkan temuan kepada pihak berwenang.

Terkait tuduhan Anthropic, Kedutaan Besar China di Washington menyatakan bahwa China menentang dan menindak semua bentuk serangan siber. Dikutip dari Axios pada Kamis (13/11/2025), mereka juga tegas menolak tuduhan yang dianggap tidak berdasar.

Pada konferensi pers Jumat (14/11/2025) di Beijing, Juru Bicara Kementerian Luar Negeri China Lin Jian menegaskan bahwa ia tidak memahami detail kasus ini. Namun, katanya, China menentang aktivitas peretasan dan akan menindaknya sesuai hukum.

”Terkait tuduhan tak berdasar semacam ini yang tidak memiliki bukti, kami telah berkali-kali menjelaskan posisi kami. China menentang aktivitas peretasan dan menindak aktivitas tersebut sesuai hukum. Selain itu, kami dengan tegas menolak pencemaran dan fitnah dengan dalih keamanan siber,” katanya.

China menentang aktivitas peretasan dan menindak aktivitas tersebut sesuai hukum.

Banyak pihak melihat bahwa kemampuan AI untuk menjalankan serangan dalam skala besar dapat menjadi ancaman strategis. Terutama jika jatuh ke tangan aktor yang didukung negara atau kelompok kriminal global.

Adam Arellano, Direktur Teknologi Lapangan di perusahaan teknologi di AS Harness, menilai kecepatan dan otomatisasi AI merupakan aspek yang paling mengkhawatirkan dari serangan itu. Otomatisasi semacam ini tak hanya dapat dilakukan oleh peretas yang didukung negara alias pemain bermodal besar. Serangan ini juga bisa dilakukan peretas kelas teri.

Tanpa keahlian tinggi pun, seseorang bisa menggunakan AI untuk menjalankan operasi kompleks itu. Ia juga bisa menembus hambatan yang biasanya hanya bisa dilakukan oleh peretas profesional.

Arellano menambahkan bahwa AI juga akan memainkan peran besar dalam pertahanan siber. Sebab, AI dapat membantu mendeteksi pola serangan dan menutup celah secara cepat.

Hal yang menimbulkan pertanyaan, jika model AI dapat disalahgunakan untuk serangan siber dalam skala sebesar ini, mengapa pengembang tetap melanjutkan riset dan merilisnya?

Anthropic menjawab bahwa kemampuan Claude memang membuatnya dapat disalahgunakan. Akan tetapi, kemampuan itu juga vital untuk sistem pertahanan.

Ketika serangan siber canggih terjadi, mereka ingin Claude dapat membantu tim keamanan siber untuk mendeteksi, mengganggu, dan mempersiapkan respons terhadap versi serangan berikutnya. Bahkan, tim Threat Intelligence Anthropic juga menggunakan Claude untuk analisis data selama investigasi GTG-1002.

Pengungkapan Anthropic itu memicu reaksi beragam. Sebagian menilainya sebagai upaya pemasaran untuk menonjolkan arsitektur keamanan Anthropic. Sebagian lain menyatakan laporan itu merupakan alarm penting. Alarm bahwa dunia belum siap menghadapi serangan siber oleh AI. (AP/AFP)