Perusahaan kecerdasan buatan asal Amerika Serikat, Anthropic, merilis laporan yang menuduh adanya serangan distilasi sistemik oleh sejumlah perusahaan AI asal China.
Praktik ini meningkat tajam dalam beberapa bulan terakhir seiring dengan semakin panasnya persaingan pengembangan model bahasa besar di tingkat global. Serangan distilasi merupakan metode di mana pengembang AI mencoba menyalin pola penalaran dari model yang lebih canggih untuk melatih model mereka sendiri.
Laporan tersebut menyebutkan bahwa pelaku telah mengembangkan teknik canggih untuk melewati sistem pertahanan Anthropic demi mengambil alih kapabilitas Claude. Mereka menargetkan kemampuan utama seperti analisis data, penulisan kode pemrograman, hingga penalaran logis yang selama ini menjadi keunggulan model Claude.
Secara total, Anthropic mencatat hampir 200 juta pertukaran data yang terhubung dengan upaya distilasi ini. Angka tersebut terbagi ke dalam lima kampanye serangan berbeda yang dinilai lebih agresif dibandingkan temuan sebelumnya pada Februari lalu.
Dalam mekanisme kerjanya, serangan distilasi berfokus pada ekstraksi rantai pemikiran atau chain of thought dari respon model AI. Data ini kemudian digunakan sebagai bahan pelatihan agar model yang lebih kecil memiliki kemampuan penalaran setara dengan model yang lebih besar.
Anthropic sebenarnya telah membatasi akses pengguna terhadap proses internal model mereka. Pengguna hanya bisa melihat ringkasan pemikiran, namun penyerang berhasil menemukan celah untuk memancing model agar mengungkapkan jejak berpikir secara langsung.
Salah satu teknik yang digunakan penyerang adalah penyamaran instruksi. Mereka meminta model melakukan tugas penerjemahan ke dalam bahasa Jepang untuk menutupi instruksi sebenarnya yang bertujuan mengekstrak memori kerja model tersebut.
Kampanye terbesar terdeteksi berasal dari Alibaba yang melibatkan 151 juta pertukaran data antara Mei hingga Juli. Anthropic menduga upaya besar-besaran ini ditujukan untuk memperkaya data pelatihan keluarga model Qwen milik Alibaba.
Sementara itu, Moonshot AI yang memproduksi Kimi diduga terlibat dalam kampanye yang mencurigakan. Anthropic menyebut beberapa permintaan yang masuk ke sistem mereka disinyalir berasal dari pihak militer China.
Salah satu permintaan yang tercatat adalah perintah untuk menganalisis rekaman kamera pengawas atau CCTV. Pelaku meminta Claude menilai apakah subjek dalam video tersebut berperilaku tidak wajar atau mencurigakan.
Dalam periode 10 hari, tercatat hampir 300.000 permintaan yang masuk melalui jaringan 5.000 akun berbeda. Serangan ini secara spesifik menargetkan model Claude Opus yang merupakan model dengan kemampuan paling kompleks milik Anthropic.
Fenomena ini menunjukkan bahwa keamanan model bahasa besar kini menjadi medan tempur baru dalam persaingan teknologi geopolitik. Perusahaan AI di seluruh dunia mulai meningkatkan protokol keamanan mereka untuk mencegah pencurian intelektual melalui teknik manipulasi input pengguna.
Baca juga tulisan lainnya dari Fajar Nugroho
Penulis: Fajar Nugroho
Editor: Beritana Editor
