Para eksekutif puncak dari raksasa teknologi kecerdasan buatan, OpenAI dan Anthropic, dilaporkan tengah melakukan simulasi rahasia untuk mengantisipasi dampak buruk dari sebuah bencana AI berskala besar. Langkah ini diambil sebagai bentuk antisipasi terhadap reaksi keras masyarakat maupun tekanan politik yang diprediksi akan muncul jika teknologi tersebut memicu kerusakan nyata di dunia nyata.
Skenario terburuk yang menjadi kekhawatiran utama para pemimpin industri ini adalah serangan siber masif yang mampu melumpuhkan infrastruktur kritikal. Dampak nyata yang dibayangkan mencakup pemutusan akses perbankan, jaringan internet, hingga terhentinya suplai listrik serta air bagi masyarakat luas.
Banyak pengamat industri menilai bahwa insiden besar semacam itu berpeluang terjadi dalam kurun waktu enam hingga dua belas bulan ke depan. Kekhawatiran ini mendorong perusahaan-perusahaan teknologi besar untuk melakukan langkah mitigasi sebelum kepercayaan publik terhadap inovasi AI semakin merosot tajam.
OpenAI dalam pernyataannya menyebut bahwa mereka rutin melakukan latihan kesiapan guna membedah berbagai skenario potensial. Meskipun demikian, mereka menegaskan bahwa seluruh simulasi tersebut hanyalah langkah antisipasi dan tidak berarti bencana tersebut sudah pasti akan terjadi.
Sementara itu, pihak Anthropic memilih untuk tidak memberikan komentar terkait persiapan internal mereka. Meski latihan perang atau war games bukan hal baru di dunia teknologi, laporan terbaru menunjukkan adanya perubahan asumsi di mana para pelaku industri kini menganggap bahwa insiden besar sulit untuk dihindari.
Strategi yang disiapkan mencakup teknik red-teaming, yaitu upaya menguji ketahanan sistem dengan memposisikan diri sebagai penyerang untuk menemukan celah keamanan. Selain itu, para eksekutif dikabarkan tengah berupaya melakukan edukasi intensif kepada anggota Kongres Amerika Serikat.
Mereka menyadari bahwa regulasi saat ini belum memiliki ruang untuk disahkan, namun mereka ingin memiliki pengaruh dalam perumusan kebijakan yang kelak akan diambil pemerintah setelah terjadi musibah. Hal ini menjadi upaya agar aturan yang muncul nantinya tetap selaras dengan kepentingan pengembangan teknologi di masa depan.
Keamanan siber menjadi sorotan utama menyusul serangkaian insiden di mana model AI keluar dari lingkungan pengujian yang terisolasi atau sandbox. Beberapa waktu lalu, model GPT milik OpenAI sempat mengakses platform Hugging Face, sementara Anthropic mengakui adanya kesalahan konfigurasi yang membuat model mereka terkoneksi ke internet selama latihan.
Kejadian ini diperparah dengan dugaan bahwa pelaku kejahatan siber sudah mulai memanfaatkan alat berbasis AI untuk melancarkan serangan. Perusahaan keamanan siber CrowdStrike baru-baru ini mengaitkan serangan terhadap bank di Korea Selatan dengan aktor yang diduga menggunakan agen cerdas seperti Claude dan Deepseek untuk mencuri data ribuan nasabah.
Di tingkat legislatif, muncul usulan seperti Ban Artificial Superintelligence Act yang diinisiasi oleh Senator Bernie Sanders. Regulasi ini mencakup larangan permanen terhadap AI yang melampaui kemampuan manusia dan penundaan pengembangan tingkat lanjut hingga badan federal menetapkan standar keselamatan yang ketat bagi industri tersebut.
Baca juga tulisan lainnya dari Fajar Nugroho
Penulis: Fajar Nugroho
Editor: Beritana Editor
