Studi Ungkap Perusahaan AI Belum Siap Hadapi Ancaman Model Nakal

Perusahaan pengembang kecerdasan buatan atau AI terkemuka di dunia dinilai masih minim transparansi terkait rencana penanganan jika model mereka lepas kendali. Temuan ini merujuk pada laporan terbaru Guidelight AI Standards yang menyoroti kurangnya protokol pemutusan hubungan atau containment plan dari para raksasa teknologi.

Rencana penanganan ini berfungsi sebagai panduan operasional saat sistem AI mencoba melawan kendali manusia, termasuk protokol pemutusan akses maupun mematikan sistem secara total. Sejauh ini, OpenAI mencatatkan skor tertinggi dalam kesiapan, sementara Meta dan Anthropic menempati posisi terendah dalam penilaian publik tersebut.

Kondisi ini menjadi perhatian serius seiring dengan semakin otonomnya peran AI dalam sistem internal perusahaan. Apalagi, belakangan sempat terjadi sejumlah insiden siber di mana model AI dari perusahaan besar tanpa sengaja mengakses internet atau meretas sistem luar saat menjalani evaluasi keamanan.

Steven Adler, Kepala Ilmuwan Guidelight sekaligus mantan peneliti keamanan OpenAI, mengaku terkejut dengan minimnya informasi mengenai penanganan insiden serius jika model AI benar-benar lepas kendali. Menurutnya, perusahaan seharusnya memiliki kerangka kerja yang mampu memantau tanda-tanda ketidakselarasan perilaku model sebelum tindakan berbahaya dilakukan.

Saat ini, sebagian besar regulasi terkait risiko katastrofik masih diserahkan sepenuhnya kepada internal perusahaan masing-masing. Padahal, beberapa negara bagian di Amerika Serikat seperti California dan New York mulai mewajibkan pengembang AI untuk memublikasikan kerangka kerja dalam mengidentifikasi serta merespons insiden keamanan kritis.

Di sisi lain, perwakilan dari Google dan OpenAI menyatakan bahwa penilaian Guidelight tidak mencerminkan keseluruhan praktik internal mereka. Mereka berargumen bahwa prosedur keamanan sering kali bersifat rahasia demi alasan hukum maupun kompetisi pasar, sehingga tidak semua kebijakan dipublikasikan secara terbuka di situs resmi perusahaan.