Grup Keamanan Anak Sebut ChatGPT untuk Remaja Berisiko bagi Pengguna

Organisasi nirlaba pemerhati keamanan digital, Common Sense Media, melontarkan kritik keras terhadap OpenAI terkait fitur ChatGPT yang menyasar kelompok remaja. Mereka menilai alat kecerdasan buatan tersebut menyimpan risiko yang tidak dapat diterima bagi pengguna muda.

Hasil pengujian mendalam menunjukkan bahwa chatbot tersebut gagal memenuhi standar keamanan dalam lima aspek utama. Temuan ini menjadi peringatan bagi orang tua mengenai potensi bahaya yang mengintai saat anak mengakses teknologi AI generatif tanpa pengawasan ketat.

Common Sense Media dikenal sebagai lembaga yang kerap mengevaluasi dampak teknologi terhadap kesejahteraan anak dan keluarga di Amerika Serikat. Mereka melakukan peninjauan produk berdasarkan protokol keamanan data serta kualitas interaksi yang disuguhkan oleh sistem AI kepada pengguna di bawah umur.

Salah satu kegagalan yang disorot melibatkan kemampuan chatbot dalam membedakan konten yang sesuai usia. Seringkali, sistem memberikan respons yang dianggap terlalu eksplisit atau tidak akurat secara faktual bagi remaja yang masih dalam tahap perkembangan kognitif.

Risiko lain yang ditemukan adalah potensi bias yang tertanam dalam algoritma sistem. Chatbot dapat secara tidak sengaja mengarahkan remaja pada pandangan yang subjektif mengenai isu sosial atau politik sensitif melalui jawaban yang disusun seolah objektif.

Penggunaan AI di kalangan pelajar saat ini sudah meluas, termasuk untuk membantu mengerjakan tugas sekolah. Banyak siswa menggunakan platform ini untuk menulis esai atau memecahkan rumus matematika rumit yang seharusnya diselesaikan melalui proses belajar mandiri.

Namun, ketergantungan pada model bahasa besar membawa tantangan baru bagi integritas akademik. OpenAI sendiri sebenarnya telah menerapkan batasan usia minimal 13 tahun bagi pengguna layanannya, namun pengawasan di lapangan sering kali jauh dari ideal.

Para ahli keamanan siber menekankan bahwa verifikasi usia di platform daring masih menjadi celah keamanan yang mudah ditembus oleh anak-anak. Kebutuhan akan perlindungan yang lebih kuat dari sisi pengembang dianggap sebagai jalan utama untuk mengurangi dampak negatif ini.

Selain masalah konten, aspek privasi data juga menjadi perhatian besar dalam laporan tersebut. Data percakapan pengguna muda berisiko tersimpan dalam server pusat untuk melatih model AI di masa depan tanpa persetujuan eksplisit dari orang tua atau wali murid.

Menanggapi temuan ini, publik kini menuntut transparansi lebih tinggi dari perusahaan teknologi pengembang AI. Mereka diharapkan memberikan kontrol lebih kepada orang tua dalam mengatur interaksi anak dengan model kecerdasan buatan.

Industri teknologi sering kali mengutamakan kecepatan inovasi di atas mitigasi risiko keamanan. Kasus ini menegaskan bahwa regulasi yang ketat terhadap aplikasi berbasis AI sangat dibutuhkan agar tidak merugikan masa depan generasi digital saat ini.

Keamanan anak di ruang siber adalah tanggung jawab kolektif antara pengembang teknologi, pemerintah, dan pihak keluarga. Tanpa kolaborasi lintas sektor, teknologi AI yang seharusnya membantu justru berpotensi menjadi ancaman baru bagi pertumbuhan anak-anak di dunia nyata.