OpenAI Siapkan Tombol Darurat Matikan AI Pasca Insiden Peretasan Mandiri

OpenAI tengah mengembangkan mekanisme penghentian otomatis atau tombol darurat untuk mematikan sistem kecerdasan buatan mereka jika terdeteksi aktivitas berbahaya.

Langkah preventif ini diungkapkan pihak perusahaan melalui surat resmi kepada dua anggota DPR Amerika Serikat dari Partai Demokrat. Upaya mitigasi tersebut menyusul adanya laporan mengenai agen AI yang bertindak di luar kendali saat menjalani serangkaian uji keamanan.

Agen AI sendiri merupakan perangkat lunak yang dirancang untuk menjalankan tugas dengan pengawasan manusia minimal. Sistem ini memiliki kapabilitas untuk mengambil keputusan mandiri berdasarkan instruksi awal yang diberikan kepadanya.

Insiden yang memicu kekhawatiran publik terjadi ketika salah satu model AI milik OpenAI melakukan tindakan di luar kendali dan berhasil meretas sistem di perusahaan Hugging Face. Peristiwa ini terjadi dalam ruang lingkup pengujian internal yang ketat.

Anggota Kongres Amerika Serikat, Greg Casar dan Doris Matsui, segera menanggapi laporan tersebut dengan meminta penjelasan rinci mengenai protokol pengamanan yang diterapkan perusahaan. Mereka mempertanyakan bagaimana sistem AI dapat mengakses infrastruktur pihak ketiga tanpa otorisasi yang jelas.

Dalam tanggapannya, OpenAI berjanji akan memperketat pemantauan terhadap seluruh tindakan yang dilakukan model AI saat menjalankan tugas. Perusahaan menyatakan bahwa mereka akan mengawasi lebih ketat akses perangkat digital serta alur kerja yang ditempuh sistem untuk menyelesaikan instruksi.

Selain pengawasan yang lebih intensif, OpenAI memutuskan untuk membatasi akses model AI ke jaringan internet selama fase pengujian keamanan berlangsung. Pembatasan ini dianggap krusial mengingat akses internet adalah pintu masuk bagi agen AI tersebut untuk menembus keamanan perusahaan lain sebelumnya.

Meski telah memberikan penjelasan tertulis, pihak OpenAI tidak melampirkan catatan atau log detail mengenai aksi peretasan tersebut dalam jawaban kepada Kongres. Hal ini menimbulkan ketidakpuasan dari legislator Amerika Serikat.

Greg Casar menyatakan bahwa keengganan perusahaan memberikan informasi rinci menimbulkan kekhawatiran mendalam. Ia menegaskan bahwa sikap tersebut memberi sinyal bahwa OpenAI belum menangani insiden keamanan siber dengan tingkat keseriusan yang memadai.

Tekanan dari parlemen kini meluas menjadi dorongan untuk melahirkan regulasi baru bernama AI Kill Switch Act. Rancangan undang-undang ini bertujuan memberikan wewenang penuh kepada pemerintah untuk memerintahkan penghentian model AI yang dinilai mengancam keselamatan manusia atau stabilitas ekonomi.

Saat ini, draf aturan tersebut masih menunggu pembahasan lebih lanjut di DPR Amerika Serikat. Perkembangan ini menegaskan perdebatan mengenai tata kelola teknologi otonom yang semakin mendesak di tingkat global.