Desakan Mengembangkan Kecerdasan Buatan yang Aman bagi Remaja

Kecerdasan buatan atau artificial intelligence menawarkan efisiensi dan peluang baru. Namun, integrasinya yang lebih mendalam ke dalam kehidupan sehari-hari memerlukan pertimbangan cermat untuk memastikan perangkat kecerdasan buatan aman, terutama bagi remaja.

Laporan berjudul ”Kecerdasan Buatan dan Kesejahteraan Remaja: Saran Kesehatan Asosiasi Psikologi Amerika”, yang diakses dari laman apa.org, Jumat (6/6/2025), mengemukakan, penggunaan kecerdasan buatan (AI) berkembang pesat. Peningkatan adopsi akal imitasi terutama terjadi di kalangan anak muda.

Teknologi akal imitasi ini menawarkan efisiensi dan peluang baru. Namun, integrasinya yang lebih mendalam ke dalam kehidupan sehari-hari memerlukan pertimbangan cermat untuk memastikan perangkat AI aman, terutama bagi remaja berusia 10-25 tahun.

Apalagi, kecerdasan buatan kini tertanam dalam berbagai jenis aplikasi dan program, mulai dari penggunaan yang lebih halus (misalnya, teks prediktif, pelengkapan otomatis, rekomendasi belanja) hingga kehadiran yang lebih substansial (misalnya, chatbot, tinjauan lamaran kerja, sistem peringatan).

Teknologi kecerdasan buatan yang disebut ”AI generatif” atau GenAI ini termasuk aplikasi yang menghasilkan teks seperti manusia, membuat gambar fotorealistik, menghasilkan audio seperti nyata, dan membuat video realistis. Hal itu memengaruhi persepsi dan perilaku kaum muda.

Kecerdasan buatan yang dimaksud juga merujuk pada ”AI interaktif” sebagai platform atau alat yang memfasilitasi interaksi manusia-AI, seperti percakapan waktu nyata, pengalaman belajar yang dipersonalisasi, hubungan, dan rekomendasi konten yang disesuaikan.

Adapun AI interaktif maupun generatif memiliki potensi untuk membentuk perkembangan, interaksi, dan pemahaman kaum muda tentang dunia.

Lebih jauh lagi, kecerdasan buatan makin banyak digunakan untuk mengotomatisasi pengambilan keputusan (misalnya, penerimaan sekolah, diagnosis medis, penilaian otomatis) yang dapat memiliki konsekuensi jangka panjang bagi kaum muda.

Laporan ini ditulis oleh panel penasihat ahli dan merupakan tindak lanjut dari dua laporan APA lainnya tentang penggunaan media sosial pada masa remaja dan rekomendasi konten video yang sehat.

Laporan AI tersebut mencatat bahwa masa remaja, yang didefinisikan sebagai usia 10-25 tahun, adalah periode perkembangan yang panjang. Usia tersebut bukanlah penanda mutlak untuk kedewasaan atau kompetensi psikologis.

Masa remaja juga merupakan periode kritis perkembangan otak, ketika remaja mengalami perubahan perkembangan lebih besar daripada periode lain dalam hidup selain masa bayi. Karena itu, perlindungan tambahan amat penting bagi kelompok pengguna yang lebih muda.

Remaja yang berbeda mungkin bereaksi terhadap konten sama dengan cara berbeda. Beberapa faktor memengaruhi respons remaja terhadap konten atau pengalaman daring, antara lain perbedaan individu, seperti temperamen, neurodiversitas, dan paparan terhadap stres atau kekerasan.

Sejumlah faktor lain yang memengaruhi respons remaja terhadap pengalaman atau konten daring adalah isolasi sosial, pengalaman traumatis, kesehatan mental, usia, dan/atau paparan terhadap kerugian sosial ekonomi atau struktural.

Dalam keluaran AI sering muncul bias, termasuk diskriminasi, karena penggunaan data pelatihan yang tidak representatif. Hal ini bisa karena kurangnya keragaman masukan dalam pengujian dan pengembangan produk, termasuk fakta sederhana bahwa pemrograman komputer dirancang manusia dewasa.

Selain penggunaan AI oleh teman sebaya remaja, penggunaan AI oleh orang dewasa (misalnya orangtua dan guru) bisa memengaruhi sikap dan praktik remaja sendiri seputar AI. Karena itu, penting bagi orang dewasa untuk menjadi contoh perilaku sehat dan pemikiran kritis bagi remaja.

”Kami mendesak semua pemangku kepentingan untuk memastikan keselamatan remaja sejak awal evolusi AI. Sangat penting bagi kita untuk tidak mengulangi kesalahan berbahaya yang sama dengan media sosial,” kata Kepala Psikologi APA Mitch Prinstein, yang memelopori pengembangan laporan tersebut.

Menurut Prinstein, dampak kecerdasan buatan pada remaja amat bernuansa dan kompleks. Dalam laporan APA, para pengembang AI diimbau memprioritaskan fitur-fitur yang melindungi kaum muda dari eksploitasi, manipulasi, dan terkikisnya relasi di dunia nyata.

Seperti media sosial, papar Prinstein, AI pada dasarnya tidak baik atau buruk. ”Namun, kami telah melihat contoh-contoh di mana remaja mengembangkan ’hubungan’ tidak sehat dan bahkan berbahaya dengan chatbot, misalnya,” tuturnya.

”Beberapa remaja mungkin tidak tahu bahwa mereka berinteraksi dengan AI. Oleh karena itu, sangat penting bagi pengembang untuk menetapkan batasan sekarang,” katanya.

Laporan APA memberikan sejumlah rekomendasi untuk memastikan remaja bisa menggunakan AI dengan aman. Perlu memastikan adanya batasan sehat dengan simulasi hubungan antarmanusia. Sebab, remaja cenderung tak mempertanyakan keakuratan dan maksud informasi yang diberikan bot dibandingkan orang dewasa.

Beberapa remaja mungkin tidak tahu bahwa mereka berinteraksi dengan AI. Oleh karena itu, sangat penting bagi pengembang untuk menetapkan batasan sekarang.

Pembuatan pengaturan privasi, batasan interaksi, dan konten yang sesuai dengan usia perlu melibatkan transparansi, pengawasan, dan dukungan manusia, serta pengujian yang ketat.

Penggunaan AI dapat meningkatkan perkembangan yang sehat. AI dapat membantu dalam bertukar pikiran, membuat, meringkas, dan menyintesis informasi, yang semuanya dapat memudahkan siswa untuk memahami dan mengingat konsep-konsep utama, catat laporan tersebut. Namun, penting bagi siswa untuk menyadari keterbatasan AI.

Membatasi akses dan keterlibatan dengan konten yang berbahaya dan tidak akurat. Pengembang AI harus membangun perlindungan untuk mencegah remaja terpapar konten yang berbahaya.

Melindungi privasi data dan kemiripan remaja. Ini termasuk membatasi penggunaan data remaja untuk iklan bertarget dan penjualan data mereka ke pihak ketiga.

Laporan APA tersebut juga menyerukan pendidikan literasi AI yang komprehensif, mengintegrasikannya ke dalam kurikulum inti dan mengembangkan pedoman nasional dan negara bagian untuk pendidikan literasi.

”Banyak perubahan ini dapat segera dilakukan orangtua, pendidik, dan remaja. Yang lainnya akan memerlukan perubahan yang lebih substansial oleh pengembang, pembuat kebijakan, dan profesional teknologi lainnya,” kata Prinstein.

Penggunaan AI yang terus berkembang, terutama dalam dunia pendidikan, yang menyasar anak-anak dan remaja juga menjadi perhatian UNESCO (Organisasi Pendidikan, Ilmu Pengetahuan, dan Kebudayaan Perserikatan Bangsa-Bangsa).

Asisten Direktur Jenderal Bidang Pendidikan UNESCO Stefania Giannini mengatakan, ada kerangka kerja kompetensi AI untuk siswa dan guru yang menekankan pendekatan berpusat pada manusia dalam pendidikan AI, mendorong pemikiran kritis, pertimbangan etis, dan penggunaan teknologi AI secara bertanggung jawab.

Kerangka ini diluncurkan dalam acara Pekan Pembelajaran Digital 2024 pada 2-5 September 2024. ”Kerangka kerja ini memberikan peta jalan yang dibutuhkan negara-negara untuk mengembangkan strategi pendidikan AI berlandaskan etika, inklusif, mudah beradaptasi, dan berwawasan ke depan,” ungkapnya.

Stefania menambahkan, sistem pendidikan harus mempersiapkan siswa dengan pengetahuan dan keterampilan untuk menggunakan AI. Selain itu, sistem pendidikan mesti mempersiapkan murid dengan wawasan potensi dampak teknologi terhadap masyarakat dan lingkungan secara luas.

”Mengingat, potensi transformatif AI bagi masyarakat sangatlah penting membekali siswa dengan nilai-nilai, pengetahuan, dan keterampilan yang diperlukan agar AI dapat digunakan secara efektif dan kreasi bersama secara aktif,” kata Stefania.