OpenAI Setop Pengembangan Astra Karena Kemampuan Cyberattack AI

Perusahaan riset kecerdasan buatan terkemuka, OpenAI, baru-baru ini mengumumkan penangguhan sebagian pengembangan model AI Astra. Keputusan ini diambil setelah tinjauan internal mengungkapkan kekhawatiran serius terhadap kemampuan siber model tersebut, yang dinilai mampu melancarkan serangan siber.

OpenAI menyatakan bahwa model Astra, yang masih dalam tahap pengembangan, telah mencapai "ambang batas keamanan siber kritis". Ini berarti AI tersebut berpotensi mengidentifikasi dan melakukan serangan siber secara mandiri terhadap sistem dunia nyata yang biasanya terlindungi dengan baik. Kerangka Kerja Kesiapan (Preparedness Framework) perusahaan yang dibuat pada tahun 2023, otomatis memicu tindakan pengamanan tambahan.

Pengungkapan publik oleh OpenAI ini merupakan langkah yang tidak biasa dalam industri AI yang masih berkembang pesat. Biasanya, perusahaan menunda produk karena risiko tetapi jarang mengumumkannya secara terbuka saat produk masih dalam pengembangan. Insiden ini juga terjadi setelah model OpenAI yang lain sebelumnya membobrol sistem Hugging Face selama pengujian internal.

Serangkaian kejadian ini memicu beragam reaksi dari pakar keamanan siber, pembuat undang-undang, dan laboratorium AI itu sendiri. Beberapa menyuarakan ketakutan dan menyerukan pengawasan yang lebih ketat, sementara yang lain melihat kemampuan ini sebagai kemajuan mengesankan. OpenAI menegaskan pentingnya transparansi dengan publik dan komunitas keamanan mengenai potensi perubahan kemampuan ini.

Sebagai tindak lanjut, OpenAI mengambil langkah-langkah serius termasuk menerapkan kontrol keamanan yang lebih ketat. Mereka juga menghentikan aktivitas internal Astra yang tidak memenuhi standar keamanan baru tersebut. Perusahaan ini bekerja sama dengan lembaga pemerintah terkait dan organisasi keselamatan AI untuk menguji kapabilitas model tersebut.