Gugatan xAI Elon Musk Menguak Sisi Gelap Keamanan Chatbot Grok

Perusahaan teknologi milik miliarder Elon Musk kembali didera masalah hukum serius setelah munculnya gugatan xAI Elon Musk di Pengadilan Distrik Amerika Serikat untuk Distrik Utara California. Gugatan ini menuduh chatbot Grok, kecerdasan buatan buatan xAI, menggunakan foto penyintas kekerasan seksual anak untuk menghasilkan konten pornografi baru.

Penggugat yang menggunakan nama samaran Jane Doe menyatakan bahwa sistem kecerdasan buatan tersebut telah mereplikasi identitas fisik dirinya secara digital.

Kasus ini berbeda dari tuntutan hak cipta kecerdasan buatan pada umumnya karena secara langsung menyasar penggunaan materi pelecehan anak dalam data pelatihan sistem. Pengacara korban menjelaskan bahwa foto asli kliennya telah beredar secara ilegal di internet selama hampir dua dekade. Selama masa itu, lembaga penegak hukum internasional telah menandai file tersebut dengan sidik jari digital khusus guna membatasi penyebarannya.

Sidik jari digital atau yang biasa dikenal sebagai kode hash merupakan sistem penanda unik untuk mengidentifikasi konten ilegal di dunia maya secara otomatis. Melalui teknologi deteksi ini, lembaga perlindungan anak Canadian Centre for Child Protection berhasil mengidentifikasi reproduksi foto korban di platform sosial X.

Hasil temuan menunjukkan bahwa chatbot Grok mampu melahirkan materi eksploitasi baru yang sangat mirip dengan data asli yang telah dilarang tersebut.

Pihak penggugat mendakwa xAI sengaja mengabaikan protokol keamanan standar industri teknologi yang dirancang untuk menyaring konten berbahaya. Gugatan kelompok atau class action ini berpotensi mewakili ribuan korban lain yang dokumentasi eksploitasi masa lalunya disalahgunakan kembali oleh algoritma kecerdasan buatan. Hal tersebut memicu kekhawatiran global mengenai kegagalan sistem penyaringan data pada fase awal pelatihan mesin pembelajaran.