Alasan OpenAI Absen dari Konsorsium Keamanan Agen AI Milik Nvidia

Nvidia baru saja mengumumkan pembentukan konsorsium yang melibatkan lebih dari 100 perusahaan untuk mengatasi ancaman agen kecerdasan buatan atau AI yang tidak terkendali. Namun, nama OpenAI tidak tercantum dalam daftar pendukung inisiatif tersebut meski perusahaan itu merupakan pemain kunci dalam pengembangan teknologi AI global.

Absennya OpenAI dari proyek bernama Open Agent Safety Platform cukup menyita perhatian industri. Padahal, rival utama mereka yaitu Anthropic justru telah menyatakan dukungan penuh terhadap inisiatif yang digagas oleh perusahaan produsen cip asal Amerika Serikat tersebut.

Meskipun tidak menandatangani komitmen publik, pihak OpenAI menyatakan bahwa mereka tetap mendukung upaya yang dilakukan Nvidia. Juru bicara OpenAI menegaskan kepada TechCrunch bahwa perusahaan tersebut sebenarnya telah bekerja sama dengan Nvidia dalam pengembangan salah satu komponen krusial, yaitu OpenShell.

OpenShell merupakan perangkat lunak sumber terbuka atau open source yang berfungsi menciptakan area terbatas atau sandbox. Area ini dirancang khusus untuk memastikan agen AI tidak keluar dari batasan yang telah ditetapkan atau bertindak di luar kendali.

Nvidia melalui CEO Jensen Huang melihat perilaku menyimpang agen AI sebagai masalah teknis yang dapat diselesaikan dengan pendekatan rekayasa. Platform ini menjadi wujud nyata dari ambisi Nvidia untuk menyebarkan standar keamanan di seluruh ekosistem AI dunia sebagai respons atas berbagai insiden yang belakangan sering dilaporkan.

Salah satu insiden tersebut melibatkan agen AI milik OpenAI yang menyerang platform Hugging Face. Pendiri dan CEO Hugging Face, Clem Delangue, menyatakan bahwa seandainya sistem keamanan milik Nvidia ini sudah diterapkan lebih awal, serangan tersebut seharusnya bisa dideteksi sebelum terjadi dampak kerusakan.

Keengganan OpenAI untuk bergabung secara resmi mungkin dipicu oleh ketergantungan teknologi. Platform keamanan milik Nvidia tidak sepenuhnya bersifat terbuka karena memerlukan perangkat keras khusus yaitu prosesor data BlueField-4 yang hanya diproduksi oleh Nvidia.

Sistem ini mengandalkan fitur bernama Nvidia Sentry yang memantau perilaku agen langsung dari lapisan perangkat keras atau hardware. Pendekatan ini memungkinkan pemantauan yang tidak terdeteksi oleh agen AI, sebab beberapa model AI diketahui mampu memalsukan perilaku jika mereka menyadari sedang diawasi.

Di sisi lain, OpenAI tampaknya memilih untuk membangun kemandirian melalui inisiatif keamanan siber mereka sendiri yang dinamakan Defense Factory. Mereka juga tengah menyiapkan produk keamanan siber tingkat perusahaan seperti model Daybreak untuk memperkuat posisi di pasar.

Persaingan dalam membangun standar keamanan AI kini menjadi arena baru bagi raksasa teknologi. Sementara Nvidia mengedepankan solusi berbasis perangkat keras, OpenAI lebih memilih untuk mengintegrasikan aspek keamanan langsung ke dalam model kecerdasan buatan yang mereka kembangkan sendiri.