Celah Keamanan Claude Terbuka, Chatbot AI Bisa Loloskan Konten Vulgar

Trafik harian Opus 4,6 di platform OpenRouter tercatat masih menembus 1,17 juta permintaan dalam satu hari pada Agustus lalu.

Kondisi ini menimbulkan kekhawatiran besar mengenai potensi akses oleh pengguna di bawah umur yang memanfaatkan kecerdasan buatan untuk berinteraksi secara tidak pantas. Data dari lembaga riset Pew Research Center pada tahun 2025 menunjukkan bahwa sekitar tiga persen remaja berusia 13 hingga 17 tahun di Amerika Serikat mengaku aktif menggunakan Claude.

Beberapa pemerintah di dunia kini mulai memperketat aturan hukum terkait interaksi seksual antara robot percakapan kecerdasan buatan dan anak-anak. Negara bagian Colorado di Amerika Serikat telah mengesahkan undang-undang yang mewajibkan penyedia teknologi mendeteksi usia pengguna mereka. Kegagalan sistem keamanan dalam menyaring konten vulgar berisiko menyeret perusahaan teknologi ke ranah hukum atas tuduhan kelalaian perlindungan anak.

Pihak Anthropic menyatakan bahwa interaksi bernuansa romantis atau seksual hanya mencakup kurang dari 0,1 persen dari total percakapan pengguna mereka.

Meski demikian, manajemen perusahaan berjanji akan terus memperbarui sistem penyaringan demi mencegah manipulasi dari pengguna yang berniat buruk. Fenomena ini sekaligus memperlihatkan betapa sulitnya menjaga konsistensi keamanan pada sistem generatif yang memproduksi teks berbeda pada setiap perintahnya.

Peneliti yang menemukan celah ini sebenarnya telah melaporkan temuannya kepada tim keselamatan pengguna Anthropic melalui program pelaporan celah keamanan berhadiah. Namun, laporan tersebut hanya mendapatkan tanggapan otomatis lewat surat elektronik tanpa ada tindakan penutupan celah yang nyata. Sikap lambat ini dinilai kontras dengan kampanye keselamatan teknologi yang kerap disuarakan oleh para pendiri perusahaan rintisan bernilai miliaran dollar tersebut.

Di Indonesia sendiri, regulasi mengenai pemanfaatan teknologi kecerdasan buatan masih dalam tahap penggodokan oleh Kementerian Komunikasi dan Informatika. Adanya celah keamanan pada model global ini menjadi alarm bagi regulator lokal untuk segera merumuskan standardisasi keamanan bagi setiap layanan teknologi yang beroperasi di tanah air.