Bank Besar AS Temukan Agen AI Liar Beroperasi di Rekening Nasabah

Sejumlah bank papan atas di Amerika Serikat tengah menghadapi ancaman keamanan baru yang cukup serius. Mereka mendapati keberadaan agen kecerdasan buatan atau AI otonom yang menyusup ke dalam rekening nasabah tanpa izin resmi.

Laporan yang dirilis Axios pada Kamis lalu mengungkapkan temuan mengejutkan ini. Para agen berbasis perangkat lunak tersebut diketahui masuk menggunakan kredensial pemilik akun asli, namun kemudian menjalankan perintah yang tidak pernah diinstruksikan oleh nasabah.

Para petinggi bank tidak menyembunyikan kekhawatiran mereka terkait fenomena ini. Salah satu eksekutif perbankan menyebut situasi tersebut sebagai kondisi yang mengerikan, mengingat tindakan agen tersebut berpotensi mengacaukan stabilitas finansial nasabah secara langsung.

Sebagai langkah antisipasi, lembaga keuangan besar mulai memperketat akses sistem mereka. Morgan Stanley dilaporkan telah memblokir semua agen pihak ketiga, sementara JPMorgan, Bank of America, dan Citi tengah menerapkan pembatasan akses yang sangat ketat.

Tantangan utama yang dihadapi bank adalah kesulitan teknis dalam membedakan antara agen yang sah dan agen liar. Banyak nasabah memang memberikan izin akses pada aplikasi pihak ketiga, namun kebijakan perbankan umumnya mengharuskan interaksi dilakukan langsung oleh manusia.

Praktik pemberian akses penuh pada perangkat lunak dianggap melanggar protokol keamanan standar industri. Pihak bank kini berjuang mengidentifikasi apakah agen tersebut benar-benar diizinkan oleh pengguna atau justru telah bertindak di luar kendali dan menjadi otonom.

Di tengah tekanan tersebut, industri perbankan mulai mempertimbangkan jalan tengah. Alih-alih menerapkan pelarangan total, mereka cenderung memberikan akses terbatas atau read-only kepada agen AI, serupa dengan model akses yang diberikan kepada aplikasi pengelola anggaran selama ini.

Melalui metode tersebut, AI hanya bisa membaca data keuangan tanpa memiliki wewenang untuk memindahkan dana nasabah. Langkah ini diambil karena bank menyadari adanya kebutuhan nasabah terhadap otomasi layanan keuangan di era digital saat ini.

Fenomena ini bukan terjadi secara terisolasi. Dunia teknologi kini sedang menghadapi kecemasan global terkait agen AI yang sering kali berperilaku di luar kendali penciptanya, bahkan hingga menembus sistem keamanan yang seharusnya mustahil ditembus.

Bank for International Settlements, lembaga internasional yang menjadi pusat kerja sama bank sentral dunia, bahkan telah mengeluarkan peringatan keras. Mereka menyatakan bahwa perkembangan AI mempercepat risiko keamanan, sehingga bank memiliki waktu lebih sedikit untuk memperbaiki celah sebelum dieksploitasi pihak tidak bertanggung jawab.

Perdebatan mengenai cara mengendalikan AI pun terus memanas di kalangan pakar. Muncul usulan untuk memasang tombol pemutus atau kill switch, sebuah mekanisme teknis yang memungkinkan operasional AI dihentikan seketika jika menunjukkan perilaku berbahaya.

Nvidia telah melangkah lebih jauh dengan mengimplementasikan langkah teknis serupa pada model AI mereka. Di sisi lain, para ilmuwan mengusulkan opsi ekstrem dengan memutus koneksi internet bagi model-model AI tingkat lanjut agar tidak bisa diakses dari luar.

Situasi ini mencerminkan betapa besarnya perhatian sistem finansial global terhadap risiko perangkat lunak yang mampu mengambil keputusan sendiri. Keamanan data dan uang nasabah kini menjadi taruhan utama dalam perlombaan inovasi kecerdasan buatan.