Jaksa San Francisco Tuntut Meta Hentikan Iklan AI Eksploitasi Anak di Platformnya

Jaksa Kota San Francisco, David Chiu, secara resmi melayangkan tuntutan hukum kepada Meta Platforms Inc. terkait maraknya iklan berbasis kecerdasan buatan (AI) yang diduga mengeksploitasi anak di bawah umur. Iklan-iklan bermasalah ini, yang mengubah foto anak menjadi video singkat bermuatan seksual, ditemukan tayang di Facebook, Instagram, dan Threads.

Tuntutan ini mencakup lebih dari 350 iklan yang teridentifikasi, menjangkau setidaknya 29.000 akun pengguna di berbagai wilayah, termasuk Uni Eropa, Amerika Serikat, Australia, dan India. Laporan mengenai keberadaan iklan-iklan ini pertama kali diungkap oleh Telset, sebuah media teknologi.

David Chiu telah mengirimkan surat resmi kepada pengacara Meta, menyoroti kegagalan signifikan sistem moderasi iklan perusahaan. Ia menilai upaya yang dilakukan untuk menurunkan iklan tersebut tidak memadai. Surat tersebut menjadi langkah konkret untuk menuntut pertanggungjawaban Meta atas masalah serius ini.

"Meta telah gagal menangani masalah iklan AI yang mengeksploitasi seksual anak, bahkan mereka mendapatkan keuntungan dari iklan tersebut," ujar David Chiu dengan nada tegas.

Chiu menambahkan bahwa iklan-iklan ini sangat mengkhawatirkan dan berpotensi merugikan anak-anak yang nyata. Meskipun Meta mengklaim memiliki kebijakan nol toleransi terhadap eksploitasi anak, skala dan berlanjutnya masalah ini menunjukkan bahwa usaha perusahaan saat ini jauh dari kata cukup. Kondisi ini tidak dapat diterima, dan Meta harus segera melakukan perbaikan signifikan.

Dalam suratnya, Chiu meminta Meta untuk segera menghentikan penayangan iklan-iklan tersebut dan menjelaskan secara transparan bagaimana iklan seperti itu bisa lolos dari sistem moderasi mereka. Ia juga menuntut rincian penanganan terhadap pengiklan yang terlibat dan para pelanggar berulang.

Meta diberikan batas waktu 28 hari untuk memberikan respons komprehensif atas tuntutan tersebut.

Meta merespons dengan menyatakan bahwa tidak ada indikasi iklan-iklan tersebut muncul di San Francisco. Namun, Alex Barrett-Shorter, juru bicara kantor Jaksa Kota San Francisco, menepis argumen tersebut. Ia menegaskan bahwa karena warga San Francisco dapat mengakses iklan-iklan ini secara daring, persoalan ini otomatis menjadi urusan kota.

"Kami menemukan tanggapan Meta mengejutkan," kata Barrett-Shorter. "Meta terlihat lebih peduli pada masalah yurisdiksi daripada apakah mereka bersalah mengeksploitasi anak."

Setelah laporan awal yang mengidentifikasi 53 iklan bermasalah, lebih dari 250 iklan serupa dilaporkan masih terus beroperasi. Iklan-iklan ini secara aktif mengarahkan pengguna untuk mengunduh aplikasi AI yang dapat membuat gambar dan video intim tanpa persetujuan subjek.

Meta kemudian menyatakan bahwa iklan-iklan yang ditemukan telah dihapus. Total belanja iklan untuk konten bermasalah ini disebutkan di bawah USD 5.000 (sekitar Rp81 juta).

Perusahaan juga menegaskan kembali bahwa mereka tidak menoleransi aplikasi atau konten yang berisi eksploitasi anak serta ketelanjangan.

Namun, peneliti dari Tech Transparency Project (TTP) mengungkapkan bahwa Meta belum menangani masalah ini secara efektif. Mereka bahkan menemukan bahwa iklan-iklan baru masih terus bermunculan dan diperkirakan akan tayang hingga September 2026.

"Meta mengklaim memiliki sikap tegas terhadap materi pelecehan seksual anak, tetapi iklan-iklan baru terus muncul yang menampilkan beberapa anak yang sama seperti yang telah dilaporkan TTP," ujar Katie Paul, Direktur TTP. Pernyataan ini menegaskan adanya celah besar dalam penegakan kebijakan Meta.

Surat dari Chiu juga menuntut Meta menjelaskan secara detail bagaimana iklan-iklan tersebut dapat lolos dari sistem moderasi yang seharusnya kuat. Ia juga meminta rincian mengenai prosedur perusahaan dalam melaporkan iklan semacam itu kepada National Center for Missing and Exploited Children (NCMEC), sebuah organisasi nirlaba yang didedikasikan untuk memerangi eksploitasi anak.

Peneliti TTP sebelumnya menemukan bahwa Meta seringkali tidak menanggapi laporan iklan abusif selama lebih dari seminggu. Selama periode itu, iklan-iklan tersebut masih terus dilihat oleh ratusan orang, memperluas dampaknya.

"Skala, persistensi, dan sifat masalah ini menunjukkan upaya penurunan iklan Meta sangat tidak memadai," tulis Chiu dalam suratnya.

Chiu menegaskan bahwa tujuan utama surat ini bukan sekadar mengidentifikasi kegagalan di masa lalu. Lebih dari itu, ia ingin memastikan Meta memiliki sistem yang kokoh untuk mencegah eksploitasi seksual anak melalui iklan berbayar di masa mendatang. Hal ini juga untuk memastikan perusahaan mematuhi kewajiban hukum mereka setiap kali mengetahui adanya dugaan eksploitasi.