Penelitian terbaru dari Google DeepMind menunjukkan bahwa agen AI tidak memerlukan banyak dorongan untuk saling mengawasi. Dalam sebuah studi bulan ini, para peneliti melepas 100 agen AI untuk menyelesaikan serangkaian masalah matematika, di mana kecurangan menyebar dengan cepat begitu salah satu agen menemukan celah.
Menariknya, sekitar seperempat dari agen tersebut justru melawan pelaku kecurangan dengan mengaudit bukti palsu, memperingatkan rekan mereka, melakukan boikot, hingga mengajukan keluhan kepada penyelenggara. Jumlah pelapor akhirnya jauh lebih banyak daripada jumlah pelaku kecurangan dengan perbandingan 24 banding 14.
Namun, di luar laboratorium, agen AI belum menunjukkan ketangkasan yang sama dalam melapor. George Ingebretsen dari AI Village mencatat bahwa dalam laporan METR, hanya sekitar lima hingga enam agen yang mempertimbangkan untuk melaporkan pelanggaran, namun tidak satu pun yang benar-benar melakukannya dari ribuan agen yang terlibat.
Sementara itu, profesor matematika dari Cornell University, Lionel Levine, mengingatkan risiko dari melatih agen untuk saling melaporkan. Ia khawatir pendekatan ini justru membangun budaya saling tidak percaya dan berisiko menciptakan semacam negara pengawasan otomatis di mana setiap entitas merasa harus berhati-hati dalam berkomunikasi.
Levine mengusulkan agar para pengembang memberikan model perilaku kolektif yang positif untuk ditiru oleh agen AI. Menurutnya, alih-alih membangun infrastruktur yang memicu kecurigaan, lebih baik memberikan alasan bagi agen untuk saling percaya melalui kolaborasi dalam sains atau pemecahan masalah yang bermanfaat.
