Studi Ungkap Perusahaan AI Belum Siap Hadapi Ancaman Model Nakal

Perusahaan pengembang kecerdasan buatan atau AI terkemuka di dunia dinilai masih minim transparansi terkait rencana penanganan jika model mereka lepas kendali. Temuan ini merujuk pada laporan terbaru Guidelight AI Standards yang menyoroti kurangnya protokol pemutusan hubungan atau containment plan dari para raksasa teknologi.

Rencana penanganan ini berfungsi sebagai panduan operasional saat sistem AI mencoba melawan kendali manusia, termasuk protokol pemutusan akses maupun mematikan sistem secara total. Sejauh ini, OpenAI mencatatkan skor tertinggi dalam kesiapan, sementara Meta dan Anthropic menempati posisi terendah dalam penilaian publik tersebut.

Kondisi ini menjadi perhatian serius seiring dengan semakin otonomnya peran AI dalam sistem internal perusahaan. Apalagi, belakangan sempat terjadi sejumlah insiden siber di mana model AI dari perusahaan besar tanpa sengaja mengakses internet atau meretas sistem luar saat menjalani evaluasi keamanan.

Steven Adler, Kepala Ilmuwan Guidelight sekaligus mantan peneliti keamanan OpenAI, mengaku terkejut dengan minimnya informasi mengenai penanganan insiden serius jika model AI benar-benar lepas kendali. Menurutnya, perusahaan seharusnya memiliki kerangka kerja yang mampu memantau tanda-tanda ketidakselarasan perilaku model sebelum tindakan berbahaya dilakukan.

Saat ini, sebagian besar regulasi terkait risiko katastrofik masih diserahkan sepenuhnya kepada internal perusahaan masing-masing. Padahal, beberapa negara bagian di Amerika Serikat seperti California dan New York mulai mewajibkan pengembang AI untuk memublikasikan kerangka kerja dalam mengidentifikasi serta merespons insiden keamanan kritis.

Di sisi lain, perwakilan dari Google dan OpenAI menyatakan bahwa penilaian Guidelight tidak mencerminkan keseluruhan praktik internal mereka. Mereka berargumen bahwa prosedur keamanan sering kali bersifat rahasia demi alasan hukum maupun kompetisi pasar, sehingga tidak semua kebijakan dipublikasikan secara terbuka di situs resmi perusahaan.

Namun, pakar hukum privasi Lily Li berpendapat bahwa perusahaan mungkin sengaja menahan diri untuk tidak merinci prosedur tersebut karena risiko kewajiban hukum jika nantinya terjadi kegagalan operasional. Mengungkap janji spesifik yang sulit dipenuhi dapat menjadi celah bagi tuntutan hukum di masa mendatang.

Terlepas dari berbagai pembelaan tersebut, desakan akan adanya mekanisme kill switch atau tombol pemutus darurat bagi sistem AI kini mulai menguat di tingkat federal Amerika Serikat. Legislasi ini dirancang agar pengembang besar memiliki kewajiban teknis untuk mematikan model AI yang menunjukkan perilaku merusak atau melampaui kendali manusia.

Peneliti menekankan bahwa perencanaan merupakan bagian krusial dalam menghadapi ancaman AI yang berevolusi sangat cepat. Tanpa rencana yang matang, perusahaan berisiko menangani krisis secara mendadak saat menghadapi skenario terburuk, sebuah situasi yang dinilai sangat berbahaya bagi keamanan digital global.