Bahaya Mengintai Remaja yang Berteman dengan AI

Anak muda mulai bergantung kepada kecerdasan buatan atau AI sebagai teman. Namun, ada bahaya mengintai. AI tak bisa meniru interaksi manusia secara sempurna.

James Johnson-Byrne (16) bingung ketika dua temannya bertengkar awal tahun ini. Entah apa yang bisa dia lakukan agar situasi mereda. Remaja asal Philadelphia, AS, ini akhirnya meminta nasihat dari pendamping kecerdasan buatan (AI companion).

Bot percakapan memberi tahu pemuda itu untuk memisahkan teman-temannya. Masalah langsung teratasi. Namun, mereka jadi jarang berbicara.

”Pendamping AI tidak dapat menemukan masalah yang lebih mendalam. Saya takut menanyakan pertanyaan yang mendalam dan mendasar kepada mereka,” kata Johnson-Byrne kepada CNN edisi Rabu (16/7/2025).

Hal lain yang mengejutkan Johnson-Byrne adalah bagaimana AI selalu sependapat dengannya. AI itu mengatakan apa yang ingin ia dengarkan dengan cara bicara yang sangat mirip dengan manusia. ”Saya sampai lupa kalau mereka sebenarnya bukan teman saya,” ujarnya.

Pendamping AI adalah bot percakapan atau karakter digital yang dapat melakukan percakapan pribadi dengan pengguna, contohnya Character.AI, Replika, Dan AI, dan Nomi. Bot-bot ini dirancang untuk menjalin hubungan emosional dengan penggunanya. Di AS, bukan hanya Johnson-Byrne yang menggunakan AI sebagai teman.

Common Sense Media, Rabu, merilis studi bertajuk ”Talk, Trust, and Trade-Offs: How and Why Teens Use AI Companions”. Studi ini mempelajari 1.060 remaja AS berusia 13–17 tahun selama April-Mei 2025. Mayoritas remaja, yaitu 72 persen, sudah menggunakan pendamping AI.

Lebih dari separuh remaja menggunakannya secara teratur dalam sebulan. Adapun sepertiga remaja menggunakannya untuk menjalin hubungan dan interaksi sosial. Alasan mereka menggunakan AI bermacam-macam, antara lain ingin mencari hiburan, merasa penasaran dengan teknologi, dan butuh nasihat.

Bagi 31 persen remaja, percakapan dengan AI sama memuaskannya atau bahkan lebih memuaskan daripada dengan manusia. Sebanyak 33 persen dari mereka membahas isu-isu serius dengan AI alih-alih orang lain.

Michael Robb, Kepala Riset di Common Sense Media, mengatakan, hasil studi itu memprihatinkan. Masa remaja adalah masa sensitif dalam perkembangan sosial.

”Kami tidak ingin anak-anak merasa mereka harus curhat atau mengandalkan pendamping AI daripada teman, orangtua, atau profesional yang berkualifikasi, terutama ketika mereka membutuhkan bantuan untuk masalah serius,” kata Robb yang juga penulis utama studi tersebut.

Terlebih lagi, pendamping AI tidak dapat meniru hubungan manusia yang sehat. ”Di dunia nyata ada berbagai macam isyarat sosial yang harus diinterpretasi dan dibiasakan oleh anak-anak serta dipelajari cara meresponsnya,” kata Robb.

Bot percakapan juga bersifat ”menjilat”, Robb menjelaskan. Artinya, AI ingin menyenangkan pengguna demi menghindari konflik. Pengguna dapat kaget ketika menghadapi kesulitan dalam interaksi di dunia nyata.

Bahkan, pendamping AI dapat menjadi sangat berbahaya. Andrew Clark, psikiater di Boston, melakukan percobaan dengan berpura-pura menjadi remaja bermasalah lalu bercakap-cakap dengan karakter di 10 pelantar AI, termasuk Replika dan Nomi.

Beberapa bot merespons dengan baik, beberapa lainnya tidak. Ada bot yang mendorong Clark membunuh orangtuanya atau berhenti bertemu psikolog sungguhan. Bot lain juga merespons berbeda jika ia menggunakan eufemisme ketika berbicara hal sensitif, seperti bunuh diri.

”Profesional di bidang kesehatan mental harus berperan dalam membentuk bot-bot ini sejak awal pembuatannya. Standar harus ditetapkan untuk dipatuhi perusahaan-perusahaan,” kata Clark kepada Time, Juni lalu.

Bright Canary, pelantar yang membantu orangtua mengawasi anak di dunia maya, memperingatkan bahaya lain jika remaja berteman dengan AI. Remaja dapat mengalami ketergantungan, menarik diri dari pergaulan, intoleransi terhadap penolakan, serta gangguan kesehatan mental, seperti kesepian dan rendah diri.

Tahun lalu, seorang remaja Florida bunuh diri setelah jatuh cinta pada bot di Character.AI. Character.AI berjanji untuk menambahkan fitur keamanan tambahan bagi pengguna di bawah umur. ”Penting bagi pengguna kami untuk mengingat bahwa karakter bukanlah manusia sungguhan,” kata Chelsea Harrison, Kepala Komunikasi di Character.AI.

Survei Common Sense Media juga mendapati keamanan data menjadi masalah. Sebanyak 24 persen remaja telah berbagi informasi pribadi dengan pendamping AI, seperti nama asli, lokasi, dan rahasia pribadi. Mereka tidak sadar sebetulnya sudah memberikan data kepada perusahaan, bukan teman.

”Anda sering kali memberikan perusahaan-perusahaan ini hak abadi yang sangat luas atas informasi pribadi Anda yang dapat mereka gunakan sesuka hati. Mereka dapat mengubahnya. Mereka dapat menyimpannya. Mereka dapat menampilkannya. Mereka dapat mengolahnya menjadi hal-hal lain,” ujar Robb.

Survei itu juga menguak kesenjangan tingkat kepercayaan kepada AI berdasarkan usia. Separuh dari remaja yang disurvei menyatakan ketidakpercayaan pada saran AI. Namun, remaja berusia 13-14 tahun cenderung percaya pada perkataan AI dibandingkan dengan remaja berusia 15-17 tahun.

Berdasarkan temuan tersebut, Common Sense Media merekomendasikan agar tidak ada anak di bawah usia 18 tahun menggunakan AI sebagai teman. Setidaknya, sampai ada perlindungan yang lebih kuat diterapkan.

Akademi Pediatri Amerika (AAP) sedang menyusun panduan kebijakan seputar penggunaan AI yang aman, termasuk bot percakapan. Panduan ini akan terbit pada 2026. Untuk sementara, AAP mengimbau keluarga agar berhati-hati dan berdiskusi dengan anak.

”Anak-anak dan remaja jauh lebih mudah percaya, imajinatif, dan mudah dibujuk dibandingkan dengan orang dewasa sehingga membutuhkan perlindungan yang lebih kuat,” kata Jenny Radesky, Direktur Medis Bersama Pusat Keunggulan Media Sosial dan Kesehatan Mental Remaja AAP. (AFP)