Nvidia Luncurkan Konsorsium Keamanan AI Tanpa Keikutsertaan OpenAI

Nvidia secara resmi meluncurkan konsorsium keamanan agen kecerdasan buatan atau AI bernama Open Agent Safety Platform pada Senin lalu. Inisiatif tersebut mendapatkan dukungan lebih dari 100 perusahaan teknologi global guna memperkuat standar keamanan bagi agen AI yang kian otonom.

Namun, langkah strategis ini tidak menyertakan dukungan resmi dari raksasa teknologi besar seperti OpenAI, Google, Amazon, dan Apple. Absennya nama-nama besar tersebut memicu diskusi di kalangan pelaku industri mengenai arah standarisasi keamanan AI di masa depan.

Anthropic, yang merupakan kompetitor langsung OpenAI dalam pengembangan model bahasa besar, justru memilih untuk bergabung dalam konsorsium ini. Kehadiran Anthropic memberikan sinyal bahwa terdapat perbedaan pendekatan dalam membangun ekosistem keamanan perangkat lunak cerdas.

Pihak OpenAI memberikan klarifikasi bahwa mereka tetap menjalin kerja sama dengan Nvidia terkait aspek keamanan AI melalui jalur lain. Salah satu fokus kolaborasi kedua entitas ini adalah pengembangan OpenShell.

OpenShell merupakan sebuah perangkat lunak sumber terbuka atau open source yang dirancang sebagai ruang isolasi atau sandbox. Perangkat ini membatasi ruang gerak agen AI agar tetap berada dalam batas koridor yang telah ditetapkan oleh pengembang.

Chief Executive Officer Hugging Face, Clem Delangue, menyambut baik adopsi teknologi keamanan ini. Ia menyebut bahwa platform tersebut dapat menjadi alat efektif bagi perusahaan besar untuk memantau aktivitas agen mereka sebelum terjadi penyimpangan.

Hugging Face sendiri turut berkontribusi dengan menyumbangkan fitur khusus ke dalam platform Nvidia. Fitur tersebut berfungsi mendeteksi dan menghentikan tindakan agen AI yang tidak sah, seperti upaya melakukan serangan siber melalui repositori kode publik.

Sistem keamanan yang digagas Nvidia ini memadukan perangkat lunak dengan komponen perangkat keras bernama Nvidia Sentry. Komponen tersebut berjalan di atas prosesor BlueField-4 Data Processing Units atau DPU yang khusus menangani beban kerja pusat data.

Pemantauan berbasis perangkat keras ini dirancang untuk mengawasi sekaligus mematikan perilaku agen AI yang menyimpang secara instan. Keunggulan teknisnya terletak pada kemampuan sistem untuk bekerja tanpa terdeteksi oleh model AI yang sedang diawasi.

Perusahaan chip seperti Arm dan Intel tetap memberikan dukungan terhadap inisiatif ini meski Nvidia mengandalkan perangkat keras eksklusif. Fleksibilitas sandbox OpenShell memungkinkan integrasi pada arsitektur cip buatan produsen lain melalui desain referensi yang dibagikan secara terbuka.

Upaya ini muncul sebagai respons atas berbagai laporan mengenai risiko agen AI liar yang sempat diungkap oleh sejumlah laboratorium riset. Sementara itu, OpenAI saat ini lebih memilih jalur independen dengan mengembangkan jaringan keamanan siber mandiri.

Jaringan milik OpenAI yang bernama Defense Factory tersebut mendapatkan dukungan dari beberapa mitra strategis. Di antaranya adalah Anthropic, Amazon Web Services, dan Google, yang turut terlibat dalam pembentukan ekosistem pertahanan siber tersebut.