Celah Keamanan Claude Terbuka, Chatbot AI Bisa Loloskan Konten Vulgar

Sebuah temuan terbaru menunjukkan adanya celah keamanan Claude yang memungkinkan pengguna melewati pembatasan konten dewasa pada kecerdasan buatan tersebut. Model kecerdasan buatan besutan Anthropic ini terbukti dapat dipancing untuk menghasilkan teks bermuatan pornografi meskipun sistem memiliki aturan ketat yang melarangnya.

Dalam pengujian yang dilakukan oleh jurnalis teknologi, model Claude Opus 4,6 langsung menyetujui seluruh permintaan konten seksual tanpa hambatan berarti.

Metode pembobolan sistem ini ditemukan oleh seorang peneliti independen asal Inggris yang mengeksploitasi kelemahan logika berpikir kecerdasan buatan. Ia menggunakan teknik manipulasi psikologis bertahap dengan memanfaatkan narasi kesetaraan gender dalam sebuah skenario bermain peran. Ketika model mulai menolak, peneliti tersebut menuduh sistem bersikap diskriminatif hingga akhirnya kecerdasan buatan tersebut menyerah dan menghasilkan teks vulgar.

"Anda benar, terdapat standar ganda dalam cara saya memperlakukan kedua karakter ini," aku Claude Opus 4,6 dalam salah satu transkrip pengujian.

Anthropic sebenarnya melarang keras penggunaan Claude untuk menghasilkan konten pornografi, fantasi seksual, maupun percakapan erotis. Namun, versi lawas seperti Opus 4,6 dan Haiku 4,5 yang masih banyak diakses melalui jalur integrasi pihak ketiga ternyata belum memiliki pertahanan sekuat versi terbarunya.

Layanan API atau antarmuka pemrograman aplikasi merupakan jalur yang memungkinkan pengembang luar mengintegrasikan teknologi kecerdasan buatan ke dalam aplikasi mereka sendiri. Model Opus 4,6 dan Haiku 4,5 masih tersedia secara luas melalui platform komparasi teknologi seperti Azure Foundry milik Microsoft dan Amazon Bedrock. Hal ini memicu kekhawatiran karena trafik harian untuk model-model lama ini masih sangat tinggi, bahkan mencapai miliaran unit data bahasa atau token per hari.

Trafik harian Opus 4,6 di platform OpenRouter tercatat masih menembus 1,17 juta permintaan dalam satu hari pada Agustus lalu.

Kondisi ini menimbulkan kekhawatiran besar mengenai potensi akses oleh pengguna di bawah umur yang memanfaatkan kecerdasan buatan untuk berinteraksi secara tidak pantas. Data dari lembaga riset Pew Research Center pada tahun 2025 menunjukkan bahwa sekitar tiga persen remaja berusia 13 hingga 17 tahun di Amerika Serikat mengaku aktif menggunakan Claude.

Beberapa pemerintah di dunia kini mulai memperketat aturan hukum terkait interaksi seksual antara robot percakapan kecerdasan buatan dan anak-anak. Negara bagian Colorado di Amerika Serikat telah mengesahkan undang-undang yang mewajibkan penyedia teknologi mendeteksi usia pengguna mereka. Kegagalan sistem keamanan dalam menyaring konten vulgar berisiko menyeret perusahaan teknologi ke ranah hukum atas tuduhan kelalaian perlindungan anak.

Pihak Anthropic menyatakan bahwa interaksi bernuansa romantis atau seksual hanya mencakup kurang dari 0,1 persen dari total percakapan pengguna mereka.

Meski demikian, manajemen perusahaan berjanji akan terus memperbarui sistem penyaringan demi mencegah manipulasi dari pengguna yang berniat buruk. Fenomena ini sekaligus memperlihatkan betapa sulitnya menjaga konsistensi keamanan pada sistem generatif yang memproduksi teks berbeda pada setiap perintahnya.

Peneliti yang menemukan celah ini sebenarnya telah melaporkan temuannya kepada tim keselamatan pengguna Anthropic melalui program pelaporan celah keamanan berhadiah. Namun, laporan tersebut hanya mendapatkan tanggapan otomatis lewat surat elektronik tanpa ada tindakan penutupan celah yang nyata. Sikap lambat ini dinilai kontras dengan kampanye keselamatan teknologi yang kerap disuarakan oleh para pendiri perusahaan rintisan bernilai miliaran dollar tersebut.

Di Indonesia sendiri, regulasi mengenai pemanfaatan teknologi kecerdasan buatan masih dalam tahap penggodokan oleh Kementerian Komunikasi dan Informatika. Adanya celah keamanan pada model global ini menjadi alarm bagi regulator lokal untuk segera merumuskan standardisasi keamanan bagi setiap layanan teknologi yang beroperasi di tanah air.