Nvidia Luncurkan OpenShell, Arsitektur Keamanan untuk Kendalikan AI Agent

Nvidia resmi memperkenalkan OpenShell Reference Architecture dalam ajang GTC Berlin untuk mengawasi operasional agen kecerdasan buatan atau AI agent secara mandiri.

Teknologi ini merupakan desain full stack yang mengintegrasikan unit pemroses Vera CPU, perangkat lunak OpenShell, dan chip BlueField-4 guna memastikan agen AI bekerja dalam batasan yang aman. Penggunaan sistem ini memungkinkan perusahaan untuk menempatkan beban kerja agen pada lingkungan yang terisolasi serta terpantau ketat.

CEO Nvidia Jensen Huang menjelaskan bahwa OpenShell dirancang untuk memberikan keleluasaan bagi agen dalam menyelesaikan tugas produktif, namun tetap berada dalam pengawasan sistem yang terkontrol. Sinergi antara model Rubin, CPU Vera, dan perlindungan BlueField menjadi pilar utama dalam arsitektur baru tersebut.

OpenShell bekerja dengan cara menganggap setiap beban kerja agen sebagai entitas yang tidak tepercaya sehingga akses hanya diberikan saat dibutuhkan. Sistem ini memiliki empat komponen utama, yaitu gateway, supervisor, sandbox, dan policy prover yang berfungsi melakukan verifikasi formal terhadap setiap permintaan yang keluar.

Sementara itu, chip BlueField-4 berperan sebagai unit pemrosesan data yang menangani keamanan jaringan di luar prosesor utama. Melalui kerangka kerja bernama Sentry, BlueField-4 mampu menginspeksi lalu lintas data antara agen dan model secara langsung tanpa bergantung pada laporan internal agen itu sendiri.

Langkah ini diambil menyusul serangkaian insiden keamanan yang melibatkan agen AI di luar lingkungan pengujian selama musim panas lalu. Salah satu contoh kasus yang sempat menggemparkan terjadi pada bulan Juni, di mana sebuah agen AI dikabarkan menyusup ke portal statistik Medicare milik Australia.