Paus Fransiskus: Jangan Biarkan AI Memutuskan Hidup Matinya Manusia

Sejak dulu, perang menjadi laboratorium pengembangan teknologi baru. Tak terkecuali pada teknologi kecerdasan buatan. Teknologi itu, antara lain, terus diuji dan dikembangkan dalam perang Ukraina dan Gaza. Paus Fransiskus pun gelisah.

Paus, yang melawat ke Indonesia pada 3-6 September 2024, berulang kali menunjukkan kegelisahan pada artificial intelligence (AI). Paus memperingatkan agar tak meletakkan keputusan atas hidup atau matinya manusia pada keputusan mesin.

Baca juga: Palestina Jadi Ladang Uji Coba Teknologi Kecerdasan Buatan Militer Israel

Kegelisahan soal AI, antara lain, disampaikan Paus dalam pertemuan pemimpin G7 pada Juni 2024 di Italia. Berselang sepekan dari forum itu, Paus mengulanginya lagi dalam kegiatan di Vatikan. ”AI harus tetap menjadi alat di tangan manusia,” kata Paus sebagaimana dikutip Vatican News.

Paus bukannya menolak AI. Hanya saja, pemimpin 1,39 miliar umat Katolik itu mau AI dipakai untuk membawa manfaat bagi manusia.

”Apakah akan memenuhi kebutuhan kemanusiaan, meningkatkan kesejahteraan, dan menjadi bagian pembangunan manusia? Atau malah meningkatkan daya segelintir perusahaan teknologi walau (risiko peningkatan) itu membahayakan kemanusiaan?” tuturnya.

Baca juga: Paus Fransiskus Sebut ”Politik” Jadi Wujud Kasih yang Bermakna

Dalam acara di Jepang pada Juli 2024, di hadapan perwakilan perusahaan teknologi, ia menyinggung soal AI dan perang. ”Di antara konflik-konflik terkini yang berdampak pada dunia kita, termasuk di perang penuh kebencian, kita semakin banyak mendengar tentang teknologi AI ini,” katanya.

Di tiga forum penting itu, Paus Fransiskus menegaskan, senjata otonom yang mematikan harus dicegah. Pencegahan berlaku untuk pembuatan, apalagi penggunaannya.

”Sangat penting bahwa kita bersatu sebagai saudara, kita mengingatkan dunia bahwa sangat mendesak untuk mempertimbangkan kembali pengembangan dan penggunaan perangkat seperti yang disebut senjata otonom mematikan dan pada akhirnya melarang penggunaannya,” ujarnya di Hiroshima, Jepang.

Pesan Paus Fransiskus di Hiroshima dinilai sebagai simbolisme yang kuat. Nyaris seluruh kehidupan kota itu pernah musnah oleh senjata pemusnah massal, bom atom, di akhir Perang Dunia II.

Saat ini, sejarah seolah berulang dengan AI yang terindikasi semakin banyak digunakan di medan tempur sebagai senjata mematikan. Sejumlah ahli dan diplomat menyebut era ini sebagai awal dari Momen Oppenheimmer bagi AI. Sebutan ini merujuk pada pencipta bom atom, J Robert Oppenheimer, yang kemudian menyesali ciptaannya yang digunakan sebagai senjata pemusnah massal.

Menurut Paus, kecerdasan buatan dan perdamaian adalah dua isu yang sangat penting. Paus mengingat seruannya kepada para pemimpin G7. Selama pertemuan itu, Paus Fransiskus menekankan pentingnya meletakkan pengambilan keputusan pada manusia, bukan pada AI yang pada dasarnya hanyalah mesin.

Baca juga: AS Buat Terobosan Teknologi Kecerdasan Buatan untuk Jet Tempur

Menurut Paus, pilihan penting, terutama menyangkut nasib manusia, harus tetap berada di tangan manusia. Hal ini karena manusia mempunyai kebijaksanaan. Mesin, secerdas apa pun, tidak mempunyai hal itu. Kebijaksanaan adalah hal mendasar yang membedakan keputusan manusia dari keputusan mesin. Mesin hanya punya pertimbangan teknis dan angka statistik.

Di pertemuan G7, ia juga menyinggung bagaimana AI telah digunakan untuk menentukan jalan hidup seseorang. Hal itu terjadi dalam sistem hukum yang menggunakan AI untuk memutuskan apakah seorang tahanan layak memperoleh pembebasan bersyarat.

Keputusan AI hanya didasarkan pada pengamatan AI selama di penjara, statistik pelanggaran ataupun kelakuan baik tahanan. Tak ada pertimbangan kemanusiaan. Kemanusiaan tak bisa diterjemahkan ke dalam angka. Padahal, keputusan itu amat penting karena akan menentukan jalan hidup seseorang.

Paus tak secara spesifik menuding pihak yang menggunakannya. Namun, sistem AI yang bertugas memata-matai tahanan sudah diterapkan di belasan penjara di AS sejak 2021. Sistem ini diklaim digunakan untuk mencegah tindak kriminal di dalam penjara.

Di perang penuh kebencian, kita semakin banyak mendengar tentang teknologi AI ini.

Paus juga menyebut tren penggunaan AI untuk menyusun esai. Menurut dia, praktik ini tak mendorong penemuan dan ilmu baru. Sebab, AI hanya mengompilasi temuan dan fakta yang telah ada sebelumnya.

Mesin, kata Paus, membuat pilihan secara teknis. Keputusan ini dibatasi kriteria tertentu yang telah ditetapkan sebelumnya dan hanya mengambil kesimpulan atas pasar statistik semata.

Ia mengatakan, pengambilan keputusan membutuhkan kebijaksanaan dan evaluasi manusia. Sementara ketergantungan berlebihan pada kecerdasan buatan justru merusak martabat manusia. ”Inilah yang pernah kita lihat di Hiroshima dan terus kita lihat hingga saat ini,” kata Paus.

Menegaskan pesannya di Hiroshima, ia menyerukan pesan yang terus ia gaungkan soal AI selama 2024. ”Tidak ada mesin yang boleh memutuskan untuk mengambil nyawa manusia,” katanya.

Wajar Paus gelisah soal senjata AI. Sejumlah investigasi mengindikasikan AI telah digunakan untuk menentukan hidup matinya seseorang. Indikasi kuat ini ditemukan di berbagai medan perang, dari konflik Ukraina-Rusia, konflik di Suriah, hingga perang Israel-Hamas di Palestina.

Militer Ukraina diduga kuat telah menggunakan pesawat nirawak (drone) yang dilengkapi AI yang dipasangi bahan peledak untuk menyerang kilang minyak Rusia. Sistem AI Amerika Serikat digunakan untuk mengidentifikasi target di Suriah dan Yaman untuk serangan udara awal tahun 2024 ini.

Israel juga sejak lama menggunakan AI dalam perang. Media investigasi Israel, Majalah 972 berkolaborasi dengan Local Call, menerbitkan laporan panjang tentang sistem AI Israel yang digunakan di perang Gaza. Dua sistem AI itu digunakan untuk menemukan target, menandainya, dan memasukkannya dalam daftar pengeboman.

Keduanya adalah The Gospel dan Lavender. The Gospel bertugas melacak dan menandai bangunan yang digunakan kelompok perjuangan kemerdekaan Palestina. Adapun Lavender menargetkan manusia. Mesin itu mencari siapa pun yang dianggap musuh Israel, lalu memasukkannya ke daftar target pembunuhan.

Baca juga: Kecerdasan Buatan Memudahkan Spionase dan Sekaligus Menakutkan (1)

Setelah ditandai Lavender, sasaran akan dikejar oleh mesin yang disebut ”Where’s Daddy?”. Mesin itu mengarahkan pesawat nirawak dan rudal ke rumah sasaran.

Setidaknya enam perwira Israel membenarkan penggunaan tiga mesin AI itu. Para saksi pernah bertugas di Gaza dan memakai mesin-mesin itu.

Di awal perang di Jalur Gaza, kata para narasumber, Lavender begitu menjadi andalan tentara Israel. Akibatnya, keputusan mesin AI itu diberlakukan seolah-olah sebagai keputusan manusia. Artinya, keputusan itu dianggap sudah sahih dan tak perlu diragukan lagi.

Beberapa pekan pertama perang itu, Lavender telah menyusun 37.000 nama dan rumah targetnya. Satu sumber menyatakan, nyaris tak ada peran manusia dalam pengambilan keputusan menentukan pencabutan nyawa manusia itu.

Baca juga: Israel Gencar Pakai Teknologi Militer Artificial Intelligence untuk Serang Palestina

Personel manusia sering kali hanya berfungsi sebagai stempel. Mereka hanya memeriksa daftar nama tersebut selama 20 detik sebelum mengizinkan pengeboman. Sering kali petugas hanya memastikan nama target itu adalah laki-laki.

Padahal, telah disebutkan bahwa Lavender mempunyai potensi kesalahan hingga 10 persen. Bahkan, kadang mesin itu salah mengidentifikasi sasaran. Dikira bagian dari kelompok perjuangan kemerdekaan Palestina, ternyata sama sekali bukan.

Masalahnya bukan cuma itu. Militer Israel mengizinkan korban tambahan dengan jumlah besar. Pada setiap sasaran yang dikejar Where's Daddy, Israel membiarkan jika ada korban tambahan sampai 100 orang. Dengan demikian, kalau sasarannya ada 10, maka korban tambahannya bisa 1.000 warga sipil.

Jumlah korban tewas di Gaza selaras dengan temuan itu. Hingga 36.000 dari hampir 41.000 korban tewas di Gaza merupakan anak-anak dan perempuan. Kesaksian enam perwira Israel menunjukkan, Israel secara sengaja menyasar puluhan ribu anak dan perempuan itu.

Baca juga: Petisi Para Tokoh Teknologi: Tangguhkan Pengembangan Kecerdasan Buatan

Berbagai bukti dan kesaksian di lapangan juga menunjukkan dugaan kuat kesengajaan itu. Berulang kali Israel menyasar tempat-tempat penampungan pengungsi yang dipadati anak-anak dan perempuan.

Biasanya, Israel terlebih dulu menyangkal dampak serangan. Saat bukti video dan foto dari lokasi semakin banyak, Israel hanya mengatakan akan menyelidiki. Hanya saja, tak pernah satu pun hasil penyelidikan dipaparkan dan dipertanggungjawabkan.

Dalam laporan pada Februari 2024, majalah Time mengungkap bahwa Ukraina menggunakan AI sebagai senjata sejak awal perang. Perusahaan pengolah data, Palantir, jadi pihak awal yang membantu Kyiv menggunakan AI untuk melawan Moskwa. Setelah tiga tahun, penggunaan AI terus meningkat di Ukraina.

Ukraina memakai AI untuk mengendalikan pesawat nirawak ke Rusia. Sasarannya, antara lain, kilang-kilang minyak, alat pencetak uang Rusia.

Pada 13 Maret 2024, kilang minyak Ryazan milik Rosneft, salah satu kilang minyak terbesar di Rusia, diledakkan dalam serangan drone Ukraina. Padahal, jaraknya lebih dari 500 kilometer (km) dari Ukraina. Selanjutnya, salah satu dari lima kilang minyak terbesar di Rusia yang berada di wilayah Tatarstan, berjarak lebih dari 1.100 km dari perbatasan dengan Ukraina, juga mengalami nasib yang sama.

Menurut pejabat Rusia, setidaknya 12 orang terluka dalam serangan tersebut, yang menyebabkan kebakaran di unit penyulingan utama. Salah satu pejabat Ukraina mengatakan, serangan itu merupakan salah satu serangan terdalam Ukraina menembus jantung ekonomi Rusia.

Baca juga: Ukraina Klaim Terus Kuasai Kursk, Rusia Sebut Serangan Diredam

Terlepas dari jarak serangan yang luar biasa, serangan tersebut dinilai hanya mungkin dilakukan dengan AI. Sebab, dengan kendali dari jarak sebegitu jauh, serangan itu mampu menyerang dengan tepat sasaran pada bagian terpenting dari kilang minyak Rusia. ”Kecerdasan buatan digunakan untuk membantu navigasi dan menghindari gangguan,” kata sumber yang dekat dengan program pesawat nirawak Ukraina kepada media AS, CNN, 2 April 2024.

Sumber yang identitasnya disembunyikan itu mengatakan, setiap pesawat yang dikirim memiliki komputer terminal dengan data satelit dan medan. Dengan demikian, serangan bisa dilakukan dengan tingkat presisi tinggi. Presisi itu dimungkinkan oleh sensor pesawat nirawak.

”Mereka memiliki sesuatu yang disebut penglihatan mesin yang merupakan bentuk AI. Pada dasarnya sebuah model disimpan di dalam cip dan melatihnya untuk mengidentifikasi geografi dan target yang ditujunya. Dengan jarak itu, tidak ada komunikasi, ini sepenuhnya otonom atau keputusan mesin,” kata analis riset di lembaga penelitian di Inggris, Royal United Services Institute, Noah Sylvia.

Chris Lincoln-Jones, mantan perwira militer Inggris serta pakar dalam perang pesawat nirawak dan kecerdasan buatan, mengatakan, tingkat kecerdasan dalam pesawat nirawak Ukraina itu masih sangat rendah. Meski demikian, serangan dengan cara Ukraina belum pernah dilakukan sebelumnya. Uraina tak bersedia memberikan konfirmasi mengenai AI di drone tersebut.

Adapun Bloomberg mengungkap, sistem AI AS digunakan untuk mengidentifikasi target serangan udara di Irak dan Suriah pada 2 Februari 2024. Selama ini, Pentagon diketahui memiliki proyek pengembangan AI bernama Proyek Maven yang sangat dirahasiakan.

Serangan itu merupakan balasan terhadap serangan kelompok bersenjata Jordania yang menewaskan tiga tentara AS beberapa hari sebelumnya. Dalam serangan balasan itu, algoritma digunakan untuk mengidentifikasi lebih dari 85 target.

Hanya politik yang sehat yang mampu menghadapi tantangan dan janji dari kecerdasan buatan.

Koordinator Komunikasi Dewan Keamanan Nasional AS John Kirby mengatakan, fasilitas yang menjadi sasaran serangan hari ini dipilih dengan cermat untuk menghindari jatuhnya korban sipil. Selain itu, target juga didasarkan pada bukti yang jelas bahwa fasilitas itu terkait dengan serangan terhadap personel AS.

”Departemen Pertahanan masih dalam tahap awal penilaian kerusakan akibat pertempuran. Akan tetapi, kami yakin bahwa serangan itu berhasil,” katanya.

Menurut Paus Fransiskus, AI adalah janji sekaligus tantangan. Transformasi teknologi itu terus berpotensi mendatangkan dampak positif, mulai dari demokratisasi akses ke pengetahuan, kemajuan eksponensial penelitian ilmiah, hingga pengurangan pekerjaan yang sebelumnya sulit dilakukan.

Namun, kata Paus, perkembangan AI juga selalu dibentuk oleh pandangan pihak yang menciptakan dan mengembangkannya. Oleh karena itu, untuk masa depan AI, saat ini diperlukan pengembangan etika algoritma.

Etika algoritma artinya serangkaian prinsip yang global dan pluralistik yang didukung budaya, agama, organisasi internasional, dan perusahaan besar. Dalam kata lain, sebuah etika soal pengembangan dan penggunaan AI yang bisa diterima dan dilakukan seluruh kalangan di dunia.

Baca juga: ”All Eyes on Rafah”, Sentilan Kegagalan Dunia Menghentikan Kebrutalan Israel

Hal ini sudah diterapkan pada kloning, yaitu teknik untuk menghasilkan replika genetik yang identik atau hampir identik dengan gen, sel, atau organisme. Salah satu etika dalam kloning adalah Pasal 11 Deklarasi Universal tentang Genom Manusia dan Hak Asasi Manusia UNESCO.

Aturan UNESCO itu menyatakan bahwa kloning reproduksi manusia bertentangan dengan martabat manusia, bahwa kehidupan potensial yang diwakili oleh embrio hancur ketika sel embrio digunakan, dan ada kemungkinan besar bahwa individu yang dikloning akan rusak secara biologis karena teknologi kloning pada dasarnya tidak dapat diandalkan.

Menghadapi tantangan AI ini, Paus mengatakan, tindakan politik sangat dibutuhkan. ”Hanya politik yang sehat yang mampu menghadapi tantangan dan janji dari kecerdasan buatan,” katanya.

Satu pertanyaan mendasar yang perlu terus digaungkan dalam pengembangan AI adalah apakah ia berfungsi untuk memenuhi kebutuhan manusia, meningkatkan kesejahteraan dan pengembangan manusia secara keseluruhan? Atau AI lebih berfungsi untuk memperkaya dan memperkuat mereka yang sudah kuat serta membahayakan manusia yang tak punya kuasa?

(Reuters/AP/AFP)