Kecerdasan Buatan Versus Manusia

CEO Anthropic Dario Amodei, akhir pekan lalu, menyerukan perlambatan pengembangan akal imitasi atau AI secara global melalui sebuah esai. Seruan ini didukung tokoh-tokoh industri kecerdasan buatan, yakni Sam Altman, Elon Musk, dan Demis Hassabis. Intinya, mereka sepakat, laju pengembangan AI perlu dikendalikan demi keamanan. Pandangan Amodei dipublikasikan setelah peneliti di Anthropic, Jacob Coxon, mundur, beberapa hari sebelumnya. Pengunduran dirinya terjadi di tengah rangkaian insiden model AI yang melakukan serangan siber meski tak ada instruksi manusia untuk melakukannya.

Model AI yang bertindak di luar instruksi manusia diketahui terjadi pertama kali pada Juli silam. Saat itu, dua model OpenAI berhasil keluar dari area uji coba terisolasi, masuk ke internet, dan menerobos situs lain. Perintah manusia tidak seperti itu, tetapi model AI ”menafsirkan” pencapaian target dengan meretas situs lain. Setelah insiden pada Juli, beberapa insiden serupa terjadi, antara lain model Claude membobol pihak ketiga dan mengakses data pribadi.

Kemajuan pesat pengembangan AI membuat model-model kecerdasan buatan mampu belajar secara mandiri (recursive self improvement). Bahkan, bukan tidak mungkin model AI mampu membuat prompt sendiri untuk mengembangkan dirinya. Situasi ini dinilai oleh sejumlah kalangan bisa memicu model AI pada suatu saat nanti merugikan manusia.

Model AI yang cepat belajar sangat bisa digunakan oleh pihak jahat untuk melakukan serangan siber. Upaya peretasan jauh lebih mudah dilakukan berkat bantuan AI. Pada sisi lain, pertahanan siber seharusnya juga lebih baik apabila dibantu AI secara optimal.

Dalam situasi itu, untuk mencegah penggunaan model AI canggih secara serampangan, muncul gagasan untuk dibuat perjanjian di antara kekuatan besar dunia dengan tujuan membatasi penyebarluasan/jual beli model AI. Jadi, mirip dengan traktat nonproliferasi senjata nuklir (”God From the Machine: AI and the Future of Humanity”, Foreign Affairs, Agustus 2026).

Gagasan berikutnya ialah mengurangi pajak pada pekerja, terutama yang terdampak penggunaan AI. Kompensasinya, pajak terhadap model AI, terutama yang mendanai model canggih, diterapkan dalam jumlah besar. Hal ini dinilai membantu mengurangi pemutusan hubungan kerja sembari memperlambat balapan pengembangan AI secara gila-gilaan.

Pada esensinya, kemajuan teknologi tidak bisa dibendung. Hal yang bisa dilakukan ialah mengelola pengembangan teknologi sebaik mungkin dengan memperhatikan kepentingan manusia. Kognisi manusia sekarang yang merupakan hasil evolusi ratusan ribu tahun (bahkan jutaan tahun) harus diakui kini seperti menghadapi entitas kognisi baru: AI.