Laporan Anthropic Ungkap Penyalahgunaan AI Claude untuk Serangan Siber Global

Anthropic mengungkapkan bahwa AI secara drastis mengubah ekonomi serangan siber. Kini, seorang operator tunggal mampu menyelesaikan peretasan hanya dalam durasi dua hingga tiga jam sekaligus mengelola puluhan korban secara bersamaan.

Sementara itu, kelompok operator berbahasa Mandarin menggunakan Claude sebagai lapisan rekayasa dan orkestrasi untuk riset kerentanan. Dalam kurun waktu satu bulan, mereka berhasil menemukan belasan temuan zero-day pada firmware perangkat jaringan.

Zero-day merupakan celah keamanan dalam perangkat lunak yang belum diketahui oleh pengembangnya, sehingga belum ada tambalan atau perbaikan untuk menutup lubang tersebut. Penemuan ini mempermudah peretas untuk menyusup ke sistem target tanpa terdeteksi.

Temuan lain dalam laporan tersebut mengungkap penggunaan Claude oleh konsultan independen di Bamako, Mali. Konsultan tersebut bekerja sama dengan intelijen negara untuk membangun sistem pengawasan domestik skala besar.

Sistem ini dirancang untuk memantau sekitar 25 juta kartu SIM yang terdaftar di tiga operator seluler nasional Mali. Claude berperan sebagai tenaga rekayasa utama dalam merancang perangkat lunak pendukung pengawasan tersebut.

Platform pengawasan itu dijalankan secara lokal menggunakan model AI internal untuk menghindari pengawasan pihak luar. Tujuannya adalah mempermudah pembuatan dokumen intelijen terhadap nomor telepon tertentu tanpa melalui proses hukum atau perintah pengadilan.

Penggunaan AI dalam skema pengawasan warga negara ini memicu perdebatan mengenai etika penggunaan teknologi kecerdasan buatan di tingkat otoritas negara. Anthropic kini menghadapi tekanan untuk memperketat kebijakan penggunaan agar model mereka tidak kembali disalahgunakan untuk tujuan yang melanggar hak privasi atau keamanan global.