CEO Microsoft Satya Nadella Serukan Rem Darurat bagi Kecerdasan Buatan

CEO Microsoft Satya Nadella baru-baru ini melontarkan gagasan mengenai perlunya mekanisme pengamanan ketat dalam pengembangan teknologi kecerdasan buatan atau artificial intelligence (AI).

Pernyataan ini muncul di tengah meningkatnya kekhawatiran global terkait potensi risiko yang ditimbulkan oleh model super intelligence yang kian canggih. Melalui sebuah unggahan di platform X, Nadella menekankan bahwa industri teknologi saat ini harus meninjau ulang arsitektur kepercayaan dalam sistem AI.

Nadella berpendapat bahwa masyarakat tidak bisa lagi memperlakukan teknologi ini sebagai kotak hitam yang tertutup, di mana pengguna hanya menerima atau menolak setiap jawaban yang dihasilkan mesin. Ia menegaskan bahwa model AI harus dipisahkan dari kerangka kerja yang mengatur operasionalnya agar kontrol tetap berada di tangan manusia.

Sistem ini serupa dengan cara kerja rem darurat pada kendaraan. Pengguna yang berwenang harus memiliki akses penuh untuk menghentikan operasional model AI secara instan jika terjadi kejanggalan di tengah sebuah tugas.

Selain itu, ia menuntut agar setiap tindakan signifikan yang dilakukan oleh model AI wajib didokumentasikan dengan bukti yang dapat dibaca manusia serta tahan terhadap manipulasi. Hal ini bertujuan agar jejak keputusan AI tetap transparan dan dapat diaudit secara berkala oleh pihak terkait.

Di Indonesia sendiri, pengembangan AI tengah menjadi sorotan utama dalam agenda transformasi digital nasional. Para pakar teknologi di tanah air kerap mengingatkan bahwa tanpa regulasi yang jelas, adopsi AI yang terlalu cepat dapat memicu kerentanan sistem informasi, baik di tingkat perusahaan maupun pemerintahan.