Mengawal Keamanan AI di Sektor Industri: Menyeimbangkan Otonomi dan Keselamatan

Kecerdasan Buatan atau AI kini mulai merambah peran otonom dalam berbagai sektor industri, yang menuntut pendekatan baru terhadap pengelolaan data, tata kelola, dan pengawasan manusia.

Arti Garg, Chief Technologist di perusahaan perangkat lunak industri AVEVA, menyebut bahwa integrasi AI dalam sistem fisik memiliki tantangan yang berbeda dibanding perangkat lunak digital biasa. Keputusan yang tidak terduga pada sistem fisik dapat berdampak langsung pada keamanan pekerja, keandalan operasional, serta infrastruktur kritis.

Sektor industri saat ini memasuki fase baru dengan pemanfaatan model fondasi, AI fisik, dan AI berbasis agen untuk mengotomatisasi tugas-tugas kompleks. Berbeda dengan aplikasi digital murni, sistem industri berinteraksi langsung dengan mesin dan peralatan operasional. Hal ini membuat penerapan AI yang bertanggung jawab menjadi agenda utama agar tidak menimbulkan risiko katastropik.

Data menjadi fondasi utama dalam transisi ini. Sistem industri sering kali menyimpan informasi dalam bentuk terpisah seperti log servis, dokumen teknik, dan telemetri. Teknologi baru kini mampu menghubungkan dan mengorelasikan data tersebut secara cepat, sehingga operator mendapatkan bantuan diagnostik secara waktu nyata. Robot bertenaga AI bahkan dapat dikerahkan ke lingkungan berbahaya untuk mengumpulkan data tanpa harus membahayakan nyawa manusia.

Garg menegaskan bahwa AI sebaiknya berfungsi untuk meningkatkan kemampuan manusia, bukan menggantikannya sepenuhnya dalam proses pengambilan keputusan penting. Kerangka kerja tata kelola yang diterapkan harus mencakup pengamanan yang jelas, di mana sistem otomatis memiliki batasan operasional yang ketat.

Keberlanjutan juga menjadi aspek krusial dalam penggunaan AI. Saat ini, terdapat upaya melalui kelompok kerja IEEE untuk menyusun standar metodologi guna mengukur dampak lingkungan dari penggunaan AI, mulai dari konsumsi energi hingga penggunaan air dan emisi karbon. Langkah ini dipandang perlu agar organisasi memahami jejak lingkungan dari teknologi yang mereka gunakan.

Potensi AI di masa depan menjanjikan efisiensi yang lebih besar melalui penggunaan drone otonom dan robot di lokasi tambang atau fasilitas energi. Namun, keberhasilan ini tidak hanya bergantung pada penyebaran perangkat keras baru. Organisasi harus merombak proses bisnis, menetapkan pengamanan yang sesuai, dan memberikan ruang bagi tenaga kerja berpengalaman untuk menerapkan keahlian mereka bersama sistem baru tersebut.

Transformasi ini memang membawa tantangan, terutama di tengah ancaman krisis tenaga kerja karena banyak ahli industri yang akan pensiun dalam lima tahun ke depan. AI diharapkan mampu menangkap pengetahuan dari para pakar tersebut dan menjadikannya dapat diakses oleh generasi pekerja berikutnya, sehingga produktivitas tetap terjaga meski terjadi pergantian SDM.