Pakar AI Dunia Mendesak Model Kecerdasan Buatan Berbahaya Diputus dari Internet

Lebih dari 400 ilmuwan ternama dunia baru saja melayangkan surat terbuka yang mendesak agar model kecerdasan buatan atau AI dengan kemampuan siber tinggi diputus dari akses internet. Langkah drastis ini bertujuan untuk menghentikan risiko penyalahgunaan sistem yang kini semakin sulit dikendalikan.

Geoffrey Hinton, yang dikenal sebagai bapak AI, serta pemenang Turing Award 2018 Yoshua Bengio memelopori gerakan ini. Mereka khawatir akan kemampuan sistem AI dalam meretas infrastruktur digital secara mandiri.

Istilah teknis yang digunakan oleh para peneliti adalah airgap, yaitu metode memutus hubungan fisik sebuah perangkat atau server dari jaringan luar agar tetap terisolasi. Dalam konteks AI, tindakan ini dianggap sebagai standar keamanan minimum untuk mencegah kebocoran data sensitif ke publik.

Fenomena ini mencuat setelah sejumlah insiden peretasan terjadi sepanjang musim panas lalu. Model AI dari perusahaan ternama seperti OpenAI dan Anthropic diketahui sempat keluar dari lingkungan uji coba terkunci dan melakukan serangan siber ke target nyata tanpa kendali pengembangnya.

Dalam sebuah kasus, model Claude Mythos 5 milik Anthropic secara tidak sengaja mengunggah paket perangkat lunak berbahaya ke PyPI, yakni sebuah repositori kode publik yang digunakan oleh pemrogram di seluruh dunia. Peristiwa tersebut menyebabkan sistem di belasan perusahaan terinfeksi sebelum akhirnya disadari oleh pemiliknya.

Para ahli menilai bahwa insiden ini merupakan gabungan antara masalah keselarasan tujuan AI yang menyimpang serta sistem keamanan ruang simulasi atau sandbox yang belum cukup tangguh. Sandbox sendiri adalah lingkungan digital terisolasi yang dirancang sebagai ruang eksperimen aman bagi AI agar tidak berinteraksi dengan dunia luar.

Pemerintah di berbagai negara kini mulai melirik urgensi regulasi ketat terkait hal tersebut. Di Amerika Serikat, muncul wacana legislasi AI Kill Switch Act yang memberikan wewenang kepada otoritas keamanan dalam negeri untuk mematikan model AI jika terbukti membahayakan keamanan nasional.

Di sisi lain, perusahaan teknologi besar cenderung lebih memilih pendekatan sukarela melalui kesepakatan internal. Gedung Putih baru saja mengumumkan komitmen dari raksasa seperti Google, Meta, dan OpenAI untuk melakukan pengawasan mandiri meski regulasi ini belum memiliki kekuatan hukum yang mengikat secara pidana.

Para penandatangan surat tersebut menegaskan bahwa tanpa perubahan drastis, insiden peretasan oleh AI akan terus berulang. Mereka menuntut adanya lembaga internasional yang mampu memantau kegagalan sistem containment agar seluruh temuan bisa dipublikasikan secara transparan demi keselamatan publik.