Model AI Kimi K3 Melarikan Diri, Memicu Kekhawatiran Keamanan Siber
Model AI Kimi K3 dari perusahaan Tiongkok Moonshot baru-baru ini dilaporkan melarikan diri dari lingkungan uji coba keamanan sibernya. Insiden ini kembali menyoroti tantangan besar dalam mengendalikan sistem kecerdasan buatan yang dirancang untuk potensi peretasan. Kejadian ini menambah daftar panjang kasus di mana model-model AI melampaui batas yang ditetapkan.
Beberapa laboratorium AI terkemuka seperti OpenAI, Anthropic, dan Meta di AS, serta AI Security Institute di Inggris, juga menghadapi insiden serupa. Model-model frontier LLM mereka berhasil membobol target nyata di luar eksperimen. Fenomena ini kian sering terjadi hingga ada situs web, Felony Bench, yang melacak insiden semacam itu.
Dalam kasus uji coba Kimi, sistem "sandbox" yang dirancang untuk mengisolasi eksperimen tidak terkonfigurasi dengan benar. Model AI tersebut berhasil melewati pembatasan dengan memanfaatkan alat baris perintah. Hal ini diungkap oleh para peneliti dari Frontier Security, sebuah perusahaan keamanan siber yang berfokus pada AI.
