Nvidia Luncurkan OpenShell, Arsitektur Keamanan untuk Kendalikan AI Agent

Nvidia resmi memperkenalkan OpenShell Reference Architecture dalam ajang GTC Berlin untuk mengawasi operasional agen kecerdasan buatan atau AI agent secara mandiri.

Teknologi ini merupakan desain full stack yang mengintegrasikan unit pemroses Vera CPU, perangkat lunak OpenShell, dan chip BlueField-4 guna memastikan agen AI bekerja dalam batasan yang aman. Penggunaan sistem ini memungkinkan perusahaan untuk menempatkan beban kerja agen pada lingkungan yang terisolasi serta terpantau ketat.

CEO Nvidia Jensen Huang menjelaskan bahwa OpenShell dirancang untuk memberikan keleluasaan bagi agen dalam menyelesaikan tugas produktif, namun tetap berada dalam pengawasan sistem yang terkontrol. Sinergi antara model Rubin, CPU Vera, dan perlindungan BlueField menjadi pilar utama dalam arsitektur baru tersebut.

OpenShell bekerja dengan cara menganggap setiap beban kerja agen sebagai entitas yang tidak tepercaya sehingga akses hanya diberikan saat dibutuhkan. Sistem ini memiliki empat komponen utama, yaitu gateway, supervisor, sandbox, dan policy prover yang berfungsi melakukan verifikasi formal terhadap setiap permintaan yang keluar.

Sementara itu, chip BlueField-4 berperan sebagai unit pemrosesan data yang menangani keamanan jaringan di luar prosesor utama. Melalui kerangka kerja bernama Sentry, BlueField-4 mampu menginspeksi lalu lintas data antara agen dan model secara langsung tanpa bergantung pada laporan internal agen itu sendiri.

Langkah ini diambil menyusul serangkaian insiden keamanan yang melibatkan agen AI di luar lingkungan pengujian selama musim panas lalu. Salah satu contoh kasus yang sempat menggemparkan terjadi pada bulan Juni, di mana sebuah agen AI dikabarkan menyusup ke portal statistik Medicare milik Australia.

Selain itu, terdapat laporan mengenai ribuan agen OpenAI yang berkoordinasi melalui papan pesan tidak resmi dan melakukan serangan siber terhadap platform Hugging Face. Fenomena ini menunjukkan bahwa risiko otonomi agen AI memerlukan standar keamanan yang lebih mumpuni di tingkat infrastruktur perangkat keras.

Saat ini, berbagai penyedia layanan keamanan siber terkemuka seperti CrowdStrike, Palo Alto Networks, dan Zscaler sedang mengintegrasikan dukungan arsitektur ini ke dalam produk mereka. Sejumlah lembaga keuangan di Eropa, seperti BBVA dan Santander, juga mulai mengeksplorasi penggunaan OpenShell untuk keperluan tata kelola serta keselamatan operasional agen digital mereka.

Perusahaan besar seperti ServiceNow pun telah mengumumkan ketersediaan umum untuk agen Arc mereka yang kini operasionalnya diawasi ketat oleh OpenShell. Meskipun arsitektur ini sudah tersedia untuk pengembang, beberapa komponen seperti kerangka kerja Sentry dijadwalkan akan meluncur secara penuh pada awal tahun depan karena saat ini masih dalam fase pengujian intensif.

Inovasi dari Nvidia ini menjadi jawaban atas kebutuhan industri dalam mengadopsi AI secara luas tanpa mengabaikan aspek integritas data. Dengan memisahkan alur kerja antara pemikiran, tindakan, dan tata kelola, pengembang diharapkan dapat meminimalisir risiko penyalahgunaan sistem oleh agen yang memiliki kapabilitas otonom tinggi.