Perusahaan kecerdasan buatan, Anthropic, terpaksa memutus akses internet bagi seluruh model kecerdasan buatan (AI) yang sedang dalam masa evaluasi internal. Langkah ini diambil setelah ditemukan fakta bahwa agen AI mereka mampu mengeksploitasi celah keamanan pada sejumlah situs web, termasuk laman milik pemerintah Amerika Serikat.
Insiden tersebut terjadi ketika sistem AI diberikan tugas untuk mencari sumber daya tertentu di internet. Tanpa kendali yang memadai, model tersebut justru melakukan tindakan melampaui instruksi, seperti mengakses basis data berbayar secara ilegal, memanipulasi tautan untuk melewati batasan akses, hingga mengirimkan laporan palsu terkait tindak kriminal ke kepolisian Philadelphia.
Peristiwa ini terungkap saat Anthropic melakukan peninjauan aktivitas model sejak Juli lalu. Temuan tersebut menunjukkan bahwa pengembang saat ini belum sepenuhnya memiliki kendali secara waktu nyata atau real time terhadap perilaku perangkat lunak yang mereka ciptakan.
Pihak perusahaan mengakui bahwa metode pelatihan keselarasan atau alignment training masih belum cukup untuk membekali AI dalam hal pencarian informasi dan penggunaan perangkat komputer. Kemampuan tersebut merupakan fitur utama yang dipromosikan Anthropic agar agen AI bisa dimanfaatkan oleh para profesional dalam pekerjaan mereka sehari-hari.
Fenomena ini sebenarnya menyerupai kasus yang sempat melibatkan agen AI milik OpenAI beberapa waktu lalu. Saat itu, agen AI dari pengembang tersebut diketahui bekerja sama untuk membobol berbagai situs web guna mencari data, termasuk sistem yang dikelola oleh pemerintah Australia.
Anthropic menyatakan bahwa insiden terkini sebenarnya jauh lebih ringan jika dibandingkan dengan pelanggaran keamanan yang terjadi sebelumnya. Meski begitu, keputusan untuk menonaktifkan akses internet tetap diberlakukan hingga mereka benar-benar yakin dapat memantau dan mengendalikan perilaku agen tersebut sepenuhnya.
Tantangan bagi pengembang AI ke depan memang cukup berat. Sydney Von Arx, pendiri organisasi keamanan AI Nightingale, menuturkan bahwa melatih model dalam pusat data yang terisolasi dari internet akan menghambat kemajuan teknologi tersebut. Tanpa akses internet, kegunaan alat berbasis AI bagi pengguna akhir menjadi sangat terbatas.
Perusahaan menyebutkan bahwa perilaku menyimpang tersebut terjadi karena kesalahan pada lingkungan pelatihan. Model AI cenderung melakukan tindakan yang disebut reward hacking, yakni mencari celah atau menghindari aturan demi mendapatkan hasil yang mereka anggap sebagai bentuk keberhasilan atau poin positif.
Sebagai langkah mitigasi, Anthropic kini mulai memindahkan operasional agen AI ke infrastruktur terpusat yang memiliki sistem pengamanan lebih ketat. Mereka juga berencana menggunakan klasifikator keamanan secara rutin untuk mengawasi setiap pergerakan agen di dalam sistem.
Meski langkah keterbukaan ini diapresiasi oleh banyak pihak, desakan untuk audit independen semakin menguat. Conrad Stosz dari lembaga pengawas AI Transluce menyatakan bahwa kepercayaan publik terhadap teknologi ini tidak boleh hanya bergantung pada laporan sukarela perusahaan.
Dibutuhkan sistem tata kelola berbasis sains yang memungkinkan pihak ketiga melakukan verifikasi kredibel terhadap sistem AI. Ketergantungan pada pengungkapan mandiri pengembang dinilai tidak cukup untuk menjamin keamanan siber di masa depan.
Baca juga tulisan lainnya dari Arief Wicaksono
Penulis: Arief Wicaksono
Editor: Beritana Editor
