Gugatan Mengguncang xAI: Grok Diduga Ciptakan Gambar Eksplisit Anak

Gugatan hukum besar-besaran kembali menyoroti peran AI generatif Grok milik xAI, anak perusahaan Elon Musk, dalam penciptaan gambar eksplisit yang melibatkan anak di bawah umur. Kasus ini mencuat setelah seorang wanita bergabung dalam gugatan, menuding Grok digunakan untuk memanipulasi foto masa kecilnya menjadi ribuan gambar tidak senonoh.

Wanita yang diidentifikasi sebagai Jane Doe 4 ini menuduh ayah tirinya menggunakan Grok untuk mengubah foto dirinya saat berusia 11 tahun menjadi lebih dari 7.000 gambar eksplisit. Ayah tiri tersebut ditemukan meninggal karena bunuh diri dua hari setelah gambar-gambar itu ditemukan dalam penggerebekan penegak hukum.

Jane Doe 4 menyatakan, "Akses tak terbatas ke alat-alat ini menyebar begitu cepat. Ini mengubah kehidupan sehari-hari menjadi pelecehan seksual anak." Pernyataan ini menegaskan keprihatinan mendalam atas potensi penyalahgunaan teknologi AI.

Gugatan ini juga diperkuat oleh tiga remaja dari Tennessee yang sebelumnya menuduh xAI gagal mengambil langkah pencegahan dasar agar Grok tidak digunakan untuk membuat gambar eksplisit orang sungguhan, termasuk anak-anak. Insiden ini mengikuti banjir jutaan gambar seksualisasi yang dihasilkan Grok di platform X awal tahun ini.

Para penggugat kini mencari status gugatan kelompok atau class action untuk kasus ini. Pihak Beritana.com telah mencoba menghubungi xAI untuk meminta komentar, namun belum ada tanggapan resmi hingga berita ini diturunkan.