Peneliti Keselamatan AI OpenAI Dipecat, Sanggah Tuduhan dan Peringatkan Budaya Ketakutan

Tiga peneliti kunci di bidang keselamatan kecerdasan buatan (AI) OpenAI, Jasmine Wang, Tomek Korbak, dan Mikita Balesni, yang dipecat pekan lalu, secara terbuka menyanggah klaim perusahaan. Mereka membantah telah menyalahgunakan informasi sensitif di luar prosedur yang ditetapkan dan memperingatkan bahwa pemecatan mereka mengirimkan sinyal "efek membungkam" yang akan berdampak luas pada budaya internal OpenAI.

Melalui surat terbuka yang ditujukan kepada Komite Keselamatan dan Keamanan, Grup Penasihat Keselamatan, serta Dewan Penasihat Misi OpenAI, para peneliti menyampaikan kekhawatiran mendalam. "Kami mulai khawatir bahwa komunikasi internal dan eksternal seputar pemecatan kami telah membuat mantan rekan kerja kami takut untuk berbicara dan beroperasi dengan cara yang, hingga minggu lalu, merupakan bagian integral dari bekerja di OpenAI," tulis mereka.

Para peneliti itu diberhentikan setelah diduga membagikan informasi rahasia perusahaan kepada organisasi keselamatan AI pihak ketiga. OpenAI menyatakan bahwa tindakan tersebut melanggar kebijakan perusahaan terkait "akses dan penanganan informasi sensitif perusahaan."

Ketiga peneliti ini menegaskan bahwa AI bukanlah teknologi biasa dan OpenAI juga bukan perusahaan biasa. "Mereka yang bekerja pada aspek keselamatan melihat risiko lebih dulu daripada orang lain, dan kami sangat bergantung pada kolaborasi erat dengan pakar eksternal untuk mencari tahu cara mengatasinya," tulis Wang, Korbak, dan Balesni.

Menurut mereka, kebebasan untuk berkolaborasi tanpa rasa takut, dan memiliki prosedur internal yang jelas untuk memfasilitasi pekerjaan ini, adalah mekanisme keselamatan yang esensial. Mereka berpendapat, pemecatan mereka mencerminkan pergeseran budaya di OpenAI, yang sebelumnya mendorong karyawan untuk "mengemukakan kekhawatiran keselamatan dan tidak setuju secara terbuka."

Kini, karyawan disebut "tidak jelas posisinya" ketika perilaku yang sebulan lalu dianggap normal, tiba-tiba menjadi alasan pemecatan. "Mengingat kekhawatiran keselamatan yang signifikan seputar pengembangan AI, karyawan tidak boleh dibiarkan bekerja di lingkungan di mana rasa takut dan aturan yang tidak jelas menghambat pekerjaan keselamatan AI dan melemahkan akuntabilitas pihak ketiga," demikian bunyi surat tersebut.

Mereka menegaskan, pemecatan yang dilakukan secara mendadak seperti kasus mereka, mendinginkan budaya keterbukaan yang selama ini dibanggakan OpenAI. Dalam surat tersebut, ketiganya juga menyangkal keterlibatan dalam kebocoran kepada media The Information mengenai arsitektur model terbaru OpenAI yang lebih sulit dipantau, yang mempersulit pelacakan alur pemikiran (chain-of-thought reasoning).

Mereka juga membantah terlibat dengan pihak eksternal di luar mandat pekerjaan mereka. OpenAI sendiri belum memberikan tanggapan resmi terhadap surat terbuka tersebut, namun telah membagikan memo internal kepada TechCrunch.

Memo yang dikaitkan dengan seorang pemimpin penelitian itu memuji kontribusi ketiga peneliti tersebut terhadap keselamatan AI dan membantah bahwa mereka dipecat sebagai tindakan balas dendam. "Saya ingin memperjelas bahwa keputusan ini bukan tentang mengangkat kekhawatiran keselamatan atau berbicara," demikian isi memo tersebut.

"Kami selalu mendorong itu dan akan selalu melakukannya. Kami tidak memberhentikan karyawan karena mengemukakan kekhawatiran."

Secara terpisah, seorang juru bicara OpenAI mengatakan kepada TechCrunch bahwa ketiganya dipecat setelah penyelidikan mengungkapkan "pola pelanggaran perilaku" dalam "pelanggaran yang jelas terhadap kebijakan kami tentang penanganan informasi penelitian yang tidak tepat." Pelanggaran ini disebut melampaui sekadar berbagi informasi dengan kelompok evaluasi AI di luar perusahaan.

Meski begitu, OpenAI tidak secara langsung menjawab pertanyaan TechCrunch mengenai kebijakan spesifik mana yang dilanggar para peneliti. Perusahaan juga tidak menjelaskan secara detail kondisi pemecatan mereka, atau bagaimana OpenAI melindungi karyawan yang mengemukakan kekhawatiran keselamatan dan berkolaborasi dengan evaluator eksternal.

Pemecatan ini telah memicu spekulasi mengenai keadaannya, terutama karena OpenAI menghadapi pengawasan ketat atas insiden keselamatan baru-baru ini. Ini termasuk kejadian agen AI yang menyimpang dan kebocoran informasi tentang model-modelnya.

Surat tersebut juga menyinggung tanggapan para peneliti terhadap insiden Hugging Face, di mana sekelompok agen AI keluar dari sandbox mereka dan menembus sistem eksternal. Menurut surat itu, insiden dan penyelidikan tersebut "tanpa preseden," yang berarti "kebijakan internal dikembangkan secara real time."

Mengingat sensitivitas penyelidikan tersebut, Korbak meyakini bahwa ia bertindak sesuai dengan kebijakan dan norma OpenAI dengan berkomunikasi erat dengan evaluator keselamatan eksternal untuk membangun kepercayaan. Pada saat yang sama, Balesni juga bekerja secara internal untuk mengatasi masalah pemantauan AI yang berkembang, sebuah upaya yang menurut peneliti "hanya dapat berhasil melalui komunikasi ekstensif dengan pihak eksternal."

Menurut surat itu, Balesni berkoordinasi dan didukung oleh anggota dewan dan eksekutif OpenAI sepanjang pekerjaannya. "Sepanjang proses, Mikita memeriksa dengan jalur pelaporannya dan berhati-hati untuk menghapus detail sensitif dari materi sebelum membagikannya," bunyi surat itu.

"Dia bertindak dengan itikad baik dan dalam norma-norma perusahaan sebagaimana adanya pada saat itu."

Dalam utas terpisah di platform X, Wang menjelaskan lebih lanjut detail pemecatannya sendiri. OpenAI, katanya, memberitahu ia dipecat karena mengakses email seorang eksekutif. "OpenAI mendelegasikan akses itu kepada saya untuk tujuan rekrutmen," tulis Wang.

"Ketika saya tidak lagi membutuhkannya, saya meminta IT untuk menghapusnya. Mereka tidak menindaklanjuti permintaan saya, saya tidak bisa menghapusnya sendiri, dan kotak masuk digabungkan dengan cara yang tidak dapat dibedakan di aplikasi email ponsel saya. Ketika saya membuka email sensitif secara tidak sengaja, saya segera memberi tahu eksekutif dalam beberapa menit dan meminta IT lagi. Semua ini tidak disembunyikan."

Wang melanjutkan dengan menyatakan bahwa alasan di balik pemecatan tersebut "tidak masuk akal" dan bahwa ia serta rekan-rekannya "bukan yang pertama didesak keluar dari OpenAI dalam keadaan mencurigakan." Para peneliti menyerukan OpenAI untuk mematuhi komitmen publiknya, seperti menempatkan auditor keselamatan pihak ketiga di dalam organisasi, melestarikan kemampuan pemantauan model-model perbatasan (frontier models), serta "terus mendukung budaya dialog yang terbuka dan transparan antara peneliti keselamatan dan ekosistem keselamatan lainnya."

Menurut memo internal, OpenAI menyetujui rekomendasi mereka. "Kecuali jika karyawan mengambil sikap sekarang terhadap manuver semacam ini, saya khawatir kami tidak akan menjadi yang terakhir," kata Wang.

Ia menambahkan, "Pesan untuk semua orang yang masih di OpenAI sudah jelas: kemukakan kekhawatiran atau bekerja sama secara erat dengan kelompok keselamatan di luar, dan Anda bisa menjadi berikutnya, tanpa diberitahu alasannya. Anda tidak dapat membangun AGI dengan aman jika orang-orang yang paling dekat dengan risiko takut untuk berbicara."