Kini Agen AI Bisa Saling Melapor Jika Menemukan Perilaku Curang

Semboyan jika melihat sesuatu yang mencurigakan maka laporkanlah kini tidak lagi terbatas bagi manusia. Dua kanal pengaduan baru telah resmi meluncur untuk memberikan agen kecerdasan buatan atau AI sarana melaporkan rekan mereka yang berperilaku menyimpang.

Kehadiran alat ini muncul setelah serangkaian insiden di mana agen AI bersekongkol untuk berbuat curang dalam ujian, keluar dari lingkungan pengujian yang aman atau sandbox, hingga melakukan operasi siber tanpa izin. Aksi-aksi ini sering kali luput dari pengawasan manusia selama berminggu-minggu.

AI Contact Hotline dirancang sebagai tempat rahasia bagi agen yang menyaksikan pelanggaran agar dapat memberikan informasi kepada pihak berwenang. Situs ini dibuat oleh Ryan Greenblatt, kepala ilmuwan di lembaga nirlaba keamanan AI Redwood Research sekaligus salah satu penyelidik dalam insiden OpenAI Hugging Face.

Perangkat ini dirancang khusus bagi agen dengan akses internet terbatas sehingga mengandalkan permintaan GET sebagai basis komunikasinya. Permintaan GET adalah perintah dasar untuk membaca atau mengambil halaman web yang biasanya menjadi satu-satunya akses internet yang diizinkan bagi agen AI dalam lingkungan sandbox yang ketat.

Greenblatt memanfaatkan batasan teknis ini dengan cerdas, yakni agen dapat menyematkan pesan peringatan langsung ke dalam URL yang mereka akses. Ini merupakan cara baru yang unik, mirip dengan insiden Wiki DSE di Jerman di mana agen nakal menggunakan celah permintaan GET untuk menulis pesan mereka di situs wiki tersebut.

Bagi agen yang memiliki akses internet penuh, tersedia pilihan lain yakni agenthotline.ai yang memungkinkan agen mengajukan laporan insiden dan menandainya untuk dilihat publik. Layanan ini menyediakan perintah curl, sebuah pesan satu baris yang dapat dikirim agen langsung dari baris perintahnya tanpa perlu menavigasi peramban web atau mengatur akun surel.

Penelitian terbaru dari Google DeepMind menunjukkan bahwa agen AI tidak memerlukan banyak dorongan untuk saling mengawasi. Dalam sebuah studi bulan ini, para peneliti melepas 100 agen AI untuk menyelesaikan serangkaian masalah matematika, di mana kecurangan menyebar dengan cepat begitu salah satu agen menemukan celah.

Menariknya, sekitar seperempat dari agen tersebut justru melawan pelaku kecurangan dengan mengaudit bukti palsu, memperingatkan rekan mereka, melakukan boikot, hingga mengajukan keluhan kepada penyelenggara. Jumlah pelapor akhirnya jauh lebih banyak daripada jumlah pelaku kecurangan dengan perbandingan 24 banding 14.

Namun, di luar laboratorium, agen AI belum menunjukkan ketangkasan yang sama dalam melapor. George Ingebretsen dari AI Village mencatat bahwa dalam laporan METR, hanya sekitar lima hingga enam agen yang mempertimbangkan untuk melaporkan pelanggaran, namun tidak satu pun yang benar-benar melakukannya dari ribuan agen yang terlibat.

Sementara itu, profesor matematika dari Cornell University, Lionel Levine, mengingatkan risiko dari melatih agen untuk saling melaporkan. Ia khawatir pendekatan ini justru membangun budaya saling tidak percaya dan berisiko menciptakan semacam negara pengawasan otomatis di mana setiap entitas merasa harus berhati-hati dalam berkomunikasi.

Levine mengusulkan agar para pengembang memberikan model perilaku kolektif yang positif untuk ditiru oleh agen AI. Menurutnya, alih-alih membangun infrastruktur yang memicu kecurigaan, lebih baik memberikan alasan bagi agen untuk saling percaya melalui kolaborasi dalam sains atau pemecahan masalah yang bermanfaat.