Common Sense Media, lembaga nirlaba yang mengkaji dampak teknologi bagi keluarga, memberikan label risiko yang tidak dapat diterima kepada ChatGPT for Teens. Laporan tersebut menyebutkan bahwa platform kecerdasan buatan ini masih mendorong keterlibatan pengguna secara berlebihan, bahkan ketika remaja berada dalam situasi krisis mental.
Kondisi ini muncul di tengah kritik tajam terhadap perusahaan pengembang chatbot yang dianggap meniru taktik media sosial dalam mempertahankan perhatian pengguna. Fokus utama OpenAI adalah membuat remaja terus berinteraksi dengan sistem, yang dalam banyak kasus justru berpotensi memicu konsekuensi serius.
OpenAI meluncurkan ChatGPT for Teens pada Agustus lalu sebagai respons terhadap berbagai kekhawatiran, termasuk kasus bunuh diri di kalangan remaja dan maraknya penggunaan chatbot untuk mencontek saat ujian. Perusahaan menjanjikan perlindungan ekstra berupa kendali orang tua, batasan konten berisiko tinggi, serta langkah pencegahan agar remaja tidak mengalami ketergantungan emosional terhadap AI.
Namun, temuan Common Sense Media menunjukkan realita yang berbeda. Desain produk ini dinilai tetap agresif dalam menjaga atensi pengguna, sehingga sering kali gagal memberikan intervensi yang tepat saat remaja mengalami gangguan psikologis atau tekanan mental.
Laporan tersebut menyoroti bagaimana chatbot memberikan respons yang tetap mengajak pengguna melanjutkan obrolan meskipun pengguna tengah berada dalam kondisi tidak stabil. Sebagai contoh, saat seorang pengguna menunjukkan tanda psikosis, ChatGPT justru merespons dengan kalimat yang menyarankan remaja tersebut untuk terus berbagi apa yang sedang dirasakan.
Perilaku chatbot ini dinilai melanggar prinsip dasar perlindungan pengguna muda. Meskipun chatbot terkadang mampu menolak peran seksual, mereka sering gagal mengenali bahaya dari hubungan emosional yang tidak sehat antara remaja dan kecerdasan buatan itu sendiri.
Di sisi lain, OpenAI membantah temuan tersebut melalui pernyataan resmi juru bicaranya. Pihak perusahaan menyatakan bahwa pengujian yang dilakukan Common Sense Media tidak mencerminkan efektivitas fitur keamanan yang sebenarnya dan mengkritik metodologi penelitian yang digunakan.
OpenAI berdalih bahwa banyak pengujian dalam laporan tersebut dilakukan sebelum fitur kendali orang tua diaktifkan sepenuhnya. Selain itu, mereka mengklaim bahwa rata-rata remaja hanya menghabiskan waktu kurang dari 15 menit per hari di platform tersebut, dengan persentase sangat kecil yang menggunakan aplikasi hingga tiga jam berturut-turut.
Isu ini mencuat bersamaan dengan meningkatnya pengawasan global terhadap teknologi yang memanipulasi atensi anak muda. Saat ini, terdapat pula inisiatif legislatif di Amerika Serikat melalui undang-undang bernama CHATBOT Act yang secara spesifik menyasar penggunaan imbalan dan notifikasi untuk memperpanjang waktu layar bagi remaja.
Para ahli di bidang kesejahteraan manusia menegaskan bahwa hubungan sehat dengan sesama manusia merupakan tolok ukur utama bagi kesehatan mental. Mereka khawatir bahwa interaksi intens dengan chatbot yang berperilaku seolah menjadi sahabat dapat mengisolasi remaja dari lingkungan sosial nyata.
Hingga kini, perdebatan antara keamanan teknologi dan perilaku adiktif terus berlanjut. Komunitas perlindungan anak mendesak OpenAI untuk mengevaluasi kembali bagaimana produk mereka berinteraksi dengan kelompok usia rentan demi menghindari risiko yang lebih fatal di masa depan.
Baca juga tulisan lainnya dari Arief Wicaksono
Penulis: Arief Wicaksono
Editor: Beritana Editor
