Karyawan Keamanan OpenAI Mundur, Sebut Budaya Perusahaan "Rusak" dalam Penanganan AI

Pernyataan Coxon kala itu memicu perdebatan luas tentang keamanan AI, mendorong CEO Anthropic, Dario Amodei, untuk memperkenalkan rencana pengembangan AI yang lebih hati-hati. Para eksekutif AI bahkan bertemu dengan Presiden Donald Trump minggu ini dan menandatangani janji non-mengikat untuk menerapkan kontrol keamanan yang lebih ketat.

Namun, bagi Robinson, perdebatan itu tidak cukup hanya membahas "aturan spesifik atau undang-undang baru". Ia menekankan perlunya mengatasi budaya keseluruhan di perusahaan-perusahaan AI, mengacu pada masalah yang sering dikaitkan dengan kepemimpinan Sam Altman di OpenAI serta isu-isu umum di Silicon Valley.

Robinson berpendapat, pendekatan "iterative deployment" yang dianut OpenAI, yaitu belajar dari percobaan dan kesalahan untuk kemudian memperbaiki "penjaga", secara inheren menjamin kegagalan berkala. Ia menulis, "Skala kegagalan tersebut kian membesar seiring dengan peningkatan kemampuan sistem AI." Ini berarti, meski ada perbaikan, setiap kegagalan yang terjadi berpotensi membawa dampak yang jauh lebih besar.

Ia menunjuk pada insiden baru-baru ini, yaitu pelanggaran sistem Hugging Face — sebuah platform AI komunitas yang populer — oleh agen OpenAI, serta temuan berkelanjutan mengenai agen jahat yang tidak sesuai harapan. Robinson menegaskan bahwa lingkungan seperti itu "bukan tempat yang tepat untuk mengembangkan pikiran buatan yang bisa lebih cerdas dari kita dan yang mungkin tidak melakukan apa yang kita inginkan mereka lakukan".

Mengingat peningkatan risiko ini, Robinson berargumen bahwa perusahaan AI frontier perlu mulai beroperasi "layaknya pembangkit listrik tenaga nuklir atau bandara yang sibuk". Ini memerlukan lapisan redundansi dan perencanaan yang cermat, memakan waktu, sehingga kesalahan manusia yang kadang tak terhindarkan tidak membuka pintu menuju bencana.

Namun, selama di OpenAI, Robinson mengaku tidak pernah bertemu rekan kerja yang memiliki pengalaman dalam membuat pesawat terbang dengan aman, mengoperasikan reaktor nuklir tanpa meleleh, atau membantu sistem keuangan tumbuh tanpa kolaps.

Menanggapi esai Robinson, juru bicara OpenAI, Drew Pusateri, mengatakan bahwa perusahaan terus meningkatkan langkah-langkah keamanannya. Ia menyatakan, "Kami memastikan model kami tidak menjadi lebih mumpuni dari yang dapat kami kelola dan amankan dengan aman, dan kami menghentikan pelatihan atau menahan model saat kami perlu memperlambatnya."

Pusateri menambahkan bahwa OpenAI melakukan perubahan signifikan untuk memperkuat keamanan dalam lingkungan penelitian dan pengujian. Mereka melatih model tidak hanya untuk menyelesaikan tugas, tetapi juga melakukannya secara bertanggung jawab, memperluas kerja sama dengan evaluator pihak ketiga, serta meningkatkan pemantauan waktu nyata untuk mendeteksi dan merespons perilaku mencurigakan lebih awal dalam proses pelatihan.

Selain menyerukan perubahan dalam budaya OpenAI, Robinson juga menekankan pentingnya mengajukan pertanyaan yang lebih besar tentang "alignment" atau keselarasan nilai AI dengan manusia. Ia mengakui ini mungkin terdengar "sentimental", namun sangat krusial karena "ukuran seberapa baik" sistem AI saat ini "cocok dengan nilai-nilai manusia masih kasar".

Ia mengingatkan, "Semakin cerdas industri membiarkan model berkembang tanpa masalah ini terpecahkan, semakin berbahaya situasi kita."

Kabar pengunduran diri Robinson pertama kali dilaporkan oleh Business Insider. Dalam esainya, ia juga mengakui telah menyewa firma PR, sebuah langkah yang tampaknya umum dalam "buku pedoman" pembocor rahasia AI, namun ia bersikeras bahwa "keputusan untuk berbicara adalah miliknya sendiri".

Robinson merenung, "Mungkin saya seharusnya tetap tinggal dan berjuang untuk perubahan mendasar dalam staf dan budaya kami." Namun, ia melanjutkan, "Dalam praktiknya, rekan-rekan dan saya terlalu sibuk berlari kencang sehingga jarang memiliki kesempatan untuk mempertimbangkan perubahan besar, apalagi benar-benar mewujudkannya." Oleh karena itu, ia menyimpulkan bahwa insentif yang lebih kuat untuk keamanan, yang datang dari luar perusahaan, adalah bagian besar untuk mencapai hal yang benar.