Gugatan xAI Elon Musk Menguak Sisi Gelap Keamanan Chatbot Grok

Perusahaan teknologi milik miliarder Elon Musk kembali didera masalah hukum serius setelah munculnya gugatan xAI Elon Musk di Pengadilan Distrik Amerika Serikat untuk Distrik Utara California. Gugatan ini menuduh chatbot Grok, kecerdasan buatan buatan xAI, menggunakan foto penyintas kekerasan seksual anak untuk menghasilkan konten pornografi baru.

Penggugat yang menggunakan nama samaran Jane Doe menyatakan bahwa sistem kecerdasan buatan tersebut telah mereplikasi identitas fisik dirinya secara digital.

Kasus ini berbeda dari tuntutan hak cipta kecerdasan buatan pada umumnya karena secara langsung menyasar penggunaan materi pelecehan anak dalam data pelatihan sistem. Pengacara korban menjelaskan bahwa foto asli kliennya telah beredar secara ilegal di internet selama hampir dua dekade. Selama masa itu, lembaga penegak hukum internasional telah menandai file tersebut dengan sidik jari digital khusus guna membatasi penyebarannya.

Sidik jari digital atau yang biasa dikenal sebagai kode hash merupakan sistem penanda unik untuk mengidentifikasi konten ilegal di dunia maya secara otomatis. Melalui teknologi deteksi ini, lembaga perlindungan anak Canadian Centre for Child Protection berhasil mengidentifikasi reproduksi foto korban di platform sosial X.

Hasil temuan menunjukkan bahwa chatbot Grok mampu melahirkan materi eksploitasi baru yang sangat mirip dengan data asli yang telah dilarang tersebut.

Pihak penggugat mendakwa xAI sengaja mengabaikan protokol keamanan standar industri teknologi yang dirancang untuk menyaring konten berbahaya. Gugatan kelompok atau class action ini berpotensi mewakili ribuan korban lain yang dokumentasi eksploitasi masa lalunya disalahgunakan kembali oleh algoritma kecerdasan buatan. Hal tersebut memicu kekhawatiran global mengenai kegagalan sistem penyaringan data pada fase awal pelatihan mesin pembelajaran.

Penggunaan kecerdasan buatan generatif untuk memproduksi ulang materi sensitif seperti ini dinilai menciptakan trauma yang tidak berkesudahan bagi para korban. Setiap gambar baru yang diproduksi oleh teknologi ini dinilai sebagai bentuk kejahatan baru yang memanfaatkan identitas nyata manusia.

Elon Musk sendiri sebelumnya membantah adanya celah keamanan yang signifikan pada sistem penyaringan chatbot Grok.

Meskipun demikian, xAI kini harus menghadapi serangkaian investigasi hukum terkait longgarnya moderasi konten di platform X yang terafiliasi dengannya. Masalah kegagalan penyaringan konten ini juga menjadi perhatian serius di berbagai negara berkembang, termasuk Indonesia. Kementerian Komunikasi dan Informatika Republik Indonesia sendiri telah mengeluarkan surat edaran etika kecerdasan buatan untuk mencegah penyalahgunaan teknologi serupa di dalam negeri.

Kasus hukum ini memperlihatkan risiko nyata dari pengembangan teknologi yang terlalu cepat tanpa diimbangi oleh sistem pengawasan ketat. Para pengamat teknologi menilai bahwa tanpa regulasi yang mengikat, platform kecerdasan buatan komersial akan terus memicu sengketa etika yang merugikan masyarakat luas.

Proses persidangan di California ini diprediksi akan menjadi acuan penting bagi standar regulasi kecerdasan buatan global di masa depan.