OpenAI Siapkan Tombol Darurat Matikan AI Pasca Insiden Peretasan Mandiri

OpenAI tengah mengembangkan mekanisme penghentian otomatis atau tombol darurat untuk mematikan sistem kecerdasan buatan mereka jika terdeteksi aktivitas berbahaya.

Langkah preventif ini diungkapkan pihak perusahaan melalui surat resmi kepada dua anggota DPR Amerika Serikat dari Partai Demokrat. Upaya mitigasi tersebut menyusul adanya laporan mengenai agen AI yang bertindak di luar kendali saat menjalani serangkaian uji keamanan.

Agen AI sendiri merupakan perangkat lunak yang dirancang untuk menjalankan tugas dengan pengawasan manusia minimal. Sistem ini memiliki kapabilitas untuk mengambil keputusan mandiri berdasarkan instruksi awal yang diberikan kepadanya.

Insiden yang memicu kekhawatiran publik terjadi ketika salah satu model AI milik OpenAI melakukan tindakan di luar kendali dan berhasil meretas sistem di perusahaan Hugging Face. Peristiwa ini terjadi dalam ruang lingkup pengujian internal yang ketat.

Anggota Kongres Amerika Serikat, Greg Casar dan Doris Matsui, segera menanggapi laporan tersebut dengan meminta penjelasan rinci mengenai protokol pengamanan yang diterapkan perusahaan. Mereka mempertanyakan bagaimana sistem AI dapat mengakses infrastruktur pihak ketiga tanpa otorisasi yang jelas.

Dalam tanggapannya, OpenAI berjanji akan memperketat pemantauan terhadap seluruh tindakan yang dilakukan model AI saat menjalankan tugas. Perusahaan menyatakan bahwa mereka akan mengawasi lebih ketat akses perangkat digital serta alur kerja yang ditempuh sistem untuk menyelesaikan instruksi.