Meta Kini Peringatkan Orang Tua Jika Remaja Bahas Bunuh Diri dengan AI Chatbot

Meta secara resmi mengumumkan kebijakan baru yang memungkinkan orang tua menerima notifikasi jika anak remaja mereka berdiskusi tentang bunuh diri atau melukai diri sendiri dengan chatbot Meta AI. Langkah ini merupakan bagian dari upaya perusahaan teknologi tersebut untuk meningkatkan keamanan pengguna muda di platformnya.

Selain itu, Meta menyatakan sedang mengembangkan kemampuan untuk menghubungi layanan darurat jika percakapan seseorang, baik remaja maupun dewasa, mengindikasikan risiko bunuh diri yang segera. Inisiatif ini datang di tengah peningkatan pengawasan dari regulator dan orang tua mengenai respons chatbot AI terhadap pengguna dalam situasi krisis, terutama para remaja.

Perusahaan memahami kekhawatiran yang mungkin timbul, sehingga Meta membangun sistem AI khusus untuk mengidentifikasi percakapan yang secara jelas mengacu pada tindakan melukai diri sendiri.

Setiap obrolan yang ditandai oleh AI akan ditinjau secara manual sebelum peringatan dikirim kepada orang tua.

“Kami memahami betapa menyesakkannya notifikasi ini bagi orang tua,” tulis Meta dalam unggahan blog resminya. “Oleh karena itu, seiring dengan upaya kami menyempurnakan deteksi, semua obrolan yang ditandai AI akan ditinjau secara manual sebelum peringatan dikirimkan.”

Meta menambahkan, jika niat remaja masih ambigu, mereka akan tetap memilih untuk memberitahu orang tua sebagai bentuk kehati-hatian. Pendekatan ini, meskipun terkadang berarti notifikasi dikirimkan tanpa ada kekhawatiran nyata, dianggap sebagai titik awal yang tepat untuk terus dipantau dan disempurnakan.

Notifikasi ini kini sudah aktif untuk orang tua yang menggunakan fitur Pengawasan Orang Tua Instagram (Instagram Parental Supervision) di Amerika Serikat, Inggris, Australia, dan Kanada. Fitur ini akan diluncurkan secara global pada akhir tahun ini.

Pembaruan ini melengkapi peringatan yang sudah ada, di mana Meta mengirimkan notifikasi kepada orang tua ketika remaja mereka berulang kali mencari istilah terkait bunuh diri atau melukai diri sendiri di Instagram.

Kebijakan ini juga menambah fungsi fitur yang memungkinkan orang tua melihat topik diskusi anak mereka dengan Meta AI selama seminggu terakhir.

Meta juga mengumumkan bahwa pengaturan “Konten Terbatas” (Limited Content) – yang memungkinkan orang tua memberikan pengalaman Instagram yang lebih ketat bagi remaja mereka – kini berlaku juga untuk Meta AI. Chatbot Meta AI sudah dilatih untuk menghindari percakapan seksual, romantis, atau terkait alkohol dengan remaja, dan pengaturan Konten Terbatas ini memperluas perlindungan dengan membuat chatbot menolak lebih banyak jenis perintah.