Bahaya AI Tanpa Kontrol: Pendiri Anthropic Desak Regulasi Global
Jack Clark, salah satu pendiri perusahaan riset kecerdasan buatan (AI) terkemuka, Anthropic, menyuarakan kekhawatirannya yang mendalam tentang kecepatan pengembangan teknologi ini. Ia menegaskan, dunia membutuhkan 'rem darurat' agar manusia bisa mengendalikan laju perkembangan AI sebelum mencapai titik di mana teknologi tersebut dapat beroperasi sepenuhnya tanpa campur tangan manusia. Peringatan ini datang di tengah pesatnya inovasi yang terjadi di sektor AI global, yang kerap kali menimbulkan kekaguman sekaligus kekhawatiran.
Clark menggambarkan situasi industri AI saat ini layaknya sebuah kendaraan yang hanya dilengkapi dengan pedal gas, namun sama sekali tidak memiliki pedal rem. "Kita harus memiliki opsi untuk melepas kaki dari gas dan menginjak rem," ujarnya lugas. "Saat ini, industri AI hanya punya pedal gas, tapi tidak punya pedal rem. Ini adalah situasi yang berpotensi berbahaya bagi kita semua."
Ia menekankan bahwa manusia, melalui perumusan kebijakan pemerintah yang tepat dan efektif, harus tetap memegang kendali penuh atas sistem-sistem AI. Menurut Clark, tanpa adanya intervensi yang berarti, sistem-sistem ini akan terus tumbuh semakin kuat dan memiliki dampak yang jauh lebih luas terhadap berbagai sendi kehidupan masyarakat. Pentingnya kontrol dan pengawasan ini menjadi sorotan utama dalam diskusinya, mengingat implikasi jangka panjang dari teknologi AI.
Clark menambahkan, "Dunia perlu merenung dan pada akhirnya kita harus mengembangkan regulasi baru yang memungkinkan kita memiliki keyakinan penuh terhadap sistem-sistem ini." Kekhawatiran ini bukan tanpa dasar kuat. Sebagai contoh nyata, chatbot populer milik Anthropic, Claude, saat ini beroperasi dengan 80% kode yang ditulis sendiri oleh sistem AI tersebut. Clark memperkirakan, mencapai 100% swakode situasi di mana AI menulis seluruh kodenya sendiri bisa terjadi dalam waktu kurang dari dua tahun ke depan, sebuah perkembangan yang disebutnya "akan memiliki implikasi sangat besar" bagi masa depan teknologi dan peradaban manusia.
Meski Clark tidak merinci secara spesifik bagaimana 'rem darurat' untuk penelitian dan pengembangan AI itu bisa diwujudkan, ia menarik paralel yang menarik dengan fenomena 'ledakan minyak' dan kemunculan para baron minyak pada awal abad lalu di Amerika Serikat. Era tersebut, yang dikenal dengan pertumbuhan industri minyak yang masif dan awalnya minim regulasi, menjadi pelajaran berharga tentang perlunya kerangka kerja yang terstruktur.
Clark menjelaskan, "Tanggapan masyarakat saat itu adalah dengan menciptakan kerangka kebijakan dan regulasi yang masuk akal. Ini memberikan kepercayaan diri kepada masyarakat terhadap minyak dan manfaat yang bisa diberikannya kepada dunia, serta menghilangkan kekhawatiran tentang karakter personal para pemimpin perusahaan." Dengan optimisme, ia menambahkan, "Itulah jelasnya tempat kita akan berakhir di sini," merujuk pada kebutuhan mendesak akan regulasi AI yang serupa.
Ironisnya, Anthropic sendiri minggu ini menyambut baik sebuah perintah eksekutif tentang AI yang dikeluarkan oleh Presiden Amerika Serikat, Donald Trump. Perintah tersebut, yang cenderung 'lepas tangan' dalam arahan-arahannya terhadap perusahaan-perusahaan AI, tidak mewajibkan mereka untuk menjalani uji keamanan oleh pemerintah. Langkah-langkah pengujian keamanan AI masih sepenuhnya bersifat sukarela, menimbulkan pertanyaan tentang komitmen serius terhadap pengawasan yang ketat.
Perusahaan-perusahaan AI besar lainnya yang terus mengejar kemajuan teknologi, termasuk OpenAI dan Google, juga belum menyatakan akan menghentikan penelitian mereka sendiri. Situasi ini semakin menimbulkan pertanyaan tentang seberapa serius komitmen mereka terhadap desakan untuk regulasi dan pengawasan yang lebih ketat, terutama dari para pendiri dan tokoh terkemuka di industri itu sendiri.
Baca juga tulisan lainnya dari Beritana Update
Penulis: Beritana Update
Editor: Beritana Editor
