Larangan Model AI Anthropic oleh Pemerintah AS: Bukan Hanya Soal Pelanggaran Sistem

Langkah tegas pemerintah Amerika Serikat terhadap Anthropic, yang secara efektif memaksa perusahaan tersebut menarik model kecerdasan buatan (AI) terbarunya dari layanan daring sesaat sebelum akhir pekan, patut menjadi perhatian serius bagi setiap perusahaan teknologi di AS.

Departemen Perdagangan AS pada Jumat sore mengirimkan surat kepada Anthropic, merujuk pada arahan kontrol ekspor yang kurang dikenal. Arahan tersebut melarang non-Amerika, termasuk karyawan Anthropic sendiri, untuk mengakses model Fable 5 dan Mythos 5, dengan alasan kekhawatiran keamanan nasional yang tidak spesifik.

Anthropic menyatakan keyakinannya bahwa surat tersebut berkaitan dengan upaya melewati "pagar pembatas" (guardrail bypass) model AI mereka. Namun, perusahaan juga mengakui ketidakpastian lantaran surat pemerintah tidak memberikan detail spesifik, dan dokumen itu belum dipublikasikan.

Sebagai respons, Anthropic segera mematikan kedua model teratasnya dari semua pelanggan demi mematuhi arahan tersebut. Ini menunjukkan bagaimana pemerintah AS berhasil memaksa perusahaan teknologi menarik produknya secara unilateral tanpa persetujuan pengadilan.

Intervensi pemerintah ini bukan hanya menunjukkan bahwa industri AI tidak kebal terhadap campur tangan negara. Lebih dari itu, kejadian ini menjadi peringatan bagi industri teknologi yang lebih luas: patuhi aturan, atau produk Anda dapat dilarang.

Mengutip sumber, media Axios menggambarkan situasi tegang selama akhir pekan antara dua pihak utama ini. Laporan tersebut menyebutkan bahwa "perbedaan kepribadian" antara Anthropic dan pemerintah, bukan masalah teknis pada produk AI, yang memicu arahan kontrol ekspor.

Detail baru yang muncul selama akhir pekan semakin meragukan alasan pemerintah yang sudah goyah tersebut.

Katie Moussouris, veteran dan peneliti keamanan siber yang mendirikan Luta Security, mengungkapkan dalam sebuah tulisan blog bahwa Anthropic baru-baru ini membagikan kepadanya salinan pribadi laporan penelitian. Laporan tersebut ditulis oleh peneliti keamanan yang menggambarkan dugaan pelanggaran guardrail pada Fable 5.

Moussouris menjelaskan bagaimana para peneliti memicu pelanggaran guardrail, namun ia berpendapat bahwa bypass tersebut “seharusnya tidak pernah memicu kontrol ekspor.” Menurutnya, perbedaan antara meminta model AI untuk "meninjau kode untuk masalah keamanan" versus "memperbaiki kode ini" tidak signifikan, karena hasil akhirnya hampir sama.

“Perilaku yang dijelaskan dalam laporan tidak dapat diperbaiki secara berarti, dan upaya apa pun hanya akan melemahkan model untuk pertahanan,” kata Moussouris. Ia mengkritik arahan kontrol ekspor ini sebagai tergesa-gesa, terlalu keras, dan keliru.

Moussouris dan puluhan peneliti serta pakar keamanan terkemuka lainnya kemudian menyerukan pemerintah untuk mencabut perintah kontrol ekspor tersebut. Mereka menyebut langkah untuk menarik kemampuan keamanan siber canggih dari para pembela jaringan di AS itu sebagai “berbahaya.”

Pemerintahan sebelumnya juga pernah membuat keputusan besar berdasarkan kesenjangan pengetahuan. Sebagai contoh, bahasa yang digunakan pemerintah AS pada tahun 2010-an untuk memperbaiki undang-undang ekspor terkait alat keamanan siber sangat luas, sehingga secara tidak sengaja, hampir melarang penelitian keamanan dan kerentanan yang sah.

Namun, arahan pemerintah saat ini tampaknya lebih bersifat pembalasan.

Justin Hendrix, editor Tech Policy Press, menyatakan bahwa langkah ini “kemungkinan akan menimbulkan kekhawatiran di ibu kota asing mengenai keandalan AI Amerika untuk aplikasi penting.” Pesannya jelas, perusahaan AI di Amerika Serikat tidak dapat dipercaya untuk beroperasi tanpa campur tangan pemerintah AS.

Pemerintah sendiri belum mengonfirmasi alasan di balik diberlakukannya arahan kontrol ekspor tersebut. Apakah para pejabat salah membaca laporan dan bereaksi berlebihan, ataukah ada upaya menekan Anthropic, mengingat hubungan yang tidak akur dengan administrasi saat ini?

“Iklim yang ada adalah awan kecurigaan bahwa pejabat senior memilih favorit berdasarkan faktor pribadi dan politik,” kutip Hendrix. Akibatnya, pemerintah telah menciptakan preseden berbahaya mengenai seberapa besar kendali yang akan dipegangnya atas rilis perangkat lunak buatan Amerika.

Kali ini pemerintah berkonflik dengan Anthropic; besok bisa jadi perusahaan lain.