Bahaya AI Tanpa Kontrol: Pendiri Anthropic Desak Regulasi Global

Jack Clark, salah satu pendiri perusahaan riset kecerdasan buatan (AI) terkemuka, Anthropic, menyuarakan kekhawatirannya yang mendalam tentang kecepatan pengembangan teknologi ini. Ia menegaskan, dunia membutuhkan 'rem darurat' agar manusia bisa mengendalikan laju perkembangan AI sebelum mencapai titik di mana teknologi tersebut dapat beroperasi sepenuhnya tanpa campur tangan manusia. Peringatan ini datang di tengah pesatnya inovasi yang terjadi di sektor AI global, yang kerap kali menimbulkan kekaguman sekaligus kekhawatiran.

Clark menggambarkan situasi industri AI saat ini layaknya sebuah kendaraan yang hanya dilengkapi dengan pedal gas, namun sama sekali tidak memiliki pedal rem. "Kita harus memiliki opsi untuk melepas kaki dari gas dan menginjak rem," ujarnya lugas. "Saat ini, industri AI hanya punya pedal gas, tapi tidak punya pedal rem. Ini adalah situasi yang berpotensi berbahaya bagi kita semua."

Ia menekankan bahwa manusia, melalui perumusan kebijakan pemerintah yang tepat dan efektif, harus tetap memegang kendali penuh atas sistem-sistem AI. Menurut Clark, tanpa adanya intervensi yang berarti, sistem-sistem ini akan terus tumbuh semakin kuat dan memiliki dampak yang jauh lebih luas terhadap berbagai sendi kehidupan masyarakat. Pentingnya kontrol dan pengawasan ini menjadi sorotan utama dalam diskusinya, mengingat implikasi jangka panjang dari teknologi AI.

Clark menambahkan, "Dunia perlu merenung dan pada akhirnya kita harus mengembangkan regulasi baru yang memungkinkan kita memiliki keyakinan penuh terhadap sistem-sistem ini." Kekhawatiran ini bukan tanpa dasar kuat. Sebagai contoh nyata, chatbot populer milik Anthropic, Claude, saat ini beroperasi dengan 80% kode yang ditulis sendiri oleh sistem AI tersebut. Clark memperkirakan, mencapai 100% swakode situasi di mana AI menulis seluruh kodenya sendiri bisa terjadi dalam waktu kurang dari dua tahun ke depan, sebuah perkembangan yang disebutnya "akan memiliki implikasi sangat besar" bagi masa depan teknologi dan peradaban manusia.

Meski Clark tidak merinci secara spesifik bagaimana 'rem darurat' untuk penelitian dan pengembangan AI itu bisa diwujudkan, ia menarik paralel yang menarik dengan fenomena 'ledakan minyak' dan kemunculan para baron minyak pada awal abad lalu di Amerika Serikat. Era tersebut, yang dikenal dengan pertumbuhan industri minyak yang masif dan awalnya minim regulasi, menjadi pelajaran berharga tentang perlunya kerangka kerja yang terstruktur.

Clark menjelaskan, "Tanggapan masyarakat saat itu adalah dengan menciptakan kerangka kebijakan dan regulasi yang masuk akal. Ini memberikan kepercayaan diri kepada masyarakat terhadap minyak dan manfaat yang bisa diberikannya kepada dunia, serta menghilangkan kekhawatiran tentang karakter personal para pemimpin perusahaan." Dengan optimisme, ia menambahkan, "Itulah jelasnya tempat kita akan berakhir di sini," merujuk pada kebutuhan mendesak akan regulasi AI yang serupa.

Ironisnya, Anthropic sendiri minggu ini menyambut baik sebuah perintah eksekutif tentang AI yang dikeluarkan oleh Presiden Amerika Serikat, Donald Trump. Perintah tersebut, yang cenderung 'lepas tangan' dalam arahan-arahannya terhadap perusahaan-perusahaan AI, tidak mewajibkan mereka untuk menjalani uji keamanan oleh pemerintah. Langkah-langkah pengujian keamanan AI masih sepenuhnya bersifat sukarela, menimbulkan pertanyaan tentang komitmen serius terhadap pengawasan yang ketat.

Perusahaan-perusahaan AI besar lainnya yang terus mengejar kemajuan teknologi, termasuk OpenAI dan Google, juga belum menyatakan akan menghentikan penelitian mereka sendiri. Situasi ini semakin menimbulkan pertanyaan tentang seberapa serius komitmen mereka terhadap desakan untuk regulasi dan pengawasan yang lebih ketat, terutama dari para pendiri dan tokoh terkemuka di industri itu sendiri.

Anthropic sendiri telah tumbuh begitu pesat sejak didirikan lima tahun lalu, hingga kini bersiap untuk debut di pasar saham publik. Perusahaan ini diproyeksikan menjadi salah satu perusahaan AI baru pertama yang melantai di bursa dan berpotensi menjadi salah satu listing saham paling bernilai dalam sejarah. Estimasi valuasi Anthropic oleh investor swasta mencapai hampir 1 triliun dolar AS, yang jika dikonversi ke rupiah dengan kurs estimasi Rp 16.000 per dolar AS, setara dengan sekitar Rp 16.000 triliun. Angka ini menggambarkan betapa besarnya potensi ekonomi yang terkandung dalam teknologi AI.

Clark menyatakan bahwa motivasi Anthropic untuk secara terbuka membahas kemampuan teknologi AI yang terus meningkat bukanlah untuk sekadar memoles reputasinya di mata pelanggan atau mencari keuntungan semata. Ia hanya ingin "memberi tahu dunia apa yang kami lihat di dalam perusahaan-perusahaan ini dengan teknologi yang tidak biasa ini," sebuah upaya untuk transparansi di tengah kompleksitas dan misteri AI.

Sejak didirikan oleh CEO Dario Amodei, Clark, dan beberapa eksekutif lainnya, Anthropic memang telah memposisikan diri sebagai perusahaan yang blak-blakan dan vokal mengenai potensi risiko yang dapat timbul dari AI. Perusahaan ini bahkan sempat terlibat dalam perselisihan publik dengan Departemen Pertahanan AS terkait kekhawatiran bahwa alat AI mereka akan digunakan untuk pengawasan massal terhadap warga Amerika dan dalam pengembangan peperangan otonom sistem senjata yang dapat memilih dan menyerang target tanpa campur tangan manusia.

Clark mengungkapkan kekhawatiran pribadinya, yang ia rasa sangat mendesak. "Saya khawatir untuk anak-anak saya jika kita sebagai masyarakat tidak melakukan percakapan serius tentang implikasi dari kemajuan AI yang berkelanjutan," katanya kepada Newsnight. "Ada potensi manfaat besar. Ada juga risiko." Sebuah pengingat bahwa AI, seperti banyak inovasi teknologi revolusioner lainnya, bagaikan pedang bermata dua yang memerlukan penanganan hati-hati.

Salah satu risiko utama yang ia tambahkan adalah gangguan terhadap perekonomian global. Muncul kekhawatiran bahwa teknologi AI seperti 'agen' pada dasarnya adalah bot AI individual yang dapat melakukan tugas rutin secara agak otonom dapat mengambil alih pekerjaan tertentu dalam skala besar. Ketakutan ini bukan isapan jempol belaka; beberapa perusahaan teknologi besar telah melakukan PHK massal selama setahun terakhir, seringkali dengan alasan meningkatnya kemampuan alat AI untuk melakukan pekerjaan yang sebelumnya membutuhkan ratusan atau bahkan ribuan insinyur perangkat lunak.

Namun, Clark juga memberikan perspektif lain yang lebih optimis. Ia meyakini bahwa orang-orang yang lebih kreatif dan memiliki ide-ide yang lebih baik sebenarnya mungkin memiliki keunggulan dibandingkan teknologi AI. "Ada pertanyaan terbuka tentang apakah sistem AI bisa benar-benar kreatif… belum ada bukti nyata untuk itu," tambahnya. Ia menggambarkan situasi di perusahaannya sendiri: "Di Anthropic, kami sekarang lebih dibatasi oleh kemampuan untuk menghasilkan ide-ide bagus daripada kemampuan untuk melakukan rekayasa untuk mengubah ide-ide itu menjadi kenyataan." Ini menunjukkan bahwa nilai ide dan kreativitas manusia masih sangat tinggi.

Meskipun demikian, Clark menyarankan agar anak muda yang mungkin merasa bahwa ekonomi yang semakin didominasi oleh AI tidak memiliki tempat bagi mereka, untuk "mengembangkan hobi" dan mengejar pendidikan seni liberal (liberal arts education). "Orang-orang yang kreatif dan bisa berpikir luas, orang-orang yang banyak membaca, orang-orang yang memiliki minat adalah yang paling diuntungkan oleh ini," kata Clark. Ia menutup dengan nasihat inspiratif, "Manjakan rasa ingin tahu Anda dan itu akan terbayar dalam cara Anda dapat menggunakan teknologi ini untuk meraih kesuksesan."

Sementara itu, di kancah global, perkembangan terkait AI terus bergulir tanpa henti. Ilmuwan di Universitas Cambridge, Inggris, misalnya, menyatakan telah berhasil menguji coba vaksin yang dirancang sepenuhnya oleh AI untuk pertama kalinya sebuah terobosan medis yang signifikan. Di Kanada, peta jalan baru tentang bagaimana negara itu berencana mengadopsi AI selama dekade mendatang mencakup pembangunan pusat data 'skala besar', program literasi AI gratis untuk publik, dan miliaran dolar pendanaan untuk riset dan pengembangan. Berbagai isu etika dan keamanan juga terus muncul, seperti klaim anggota parlemen Suffolk, Jess Asato, bahwa alat Grok milik sebuah perusahaan digunakan untuk membuat gambar palsu dirinya dalam balutan bikini. Bahkan di sektor pendidikan, kepala Ofqual, badan pengawas kualifikasi dan ujian di Inggris, mengatakan pengawas sedang dilatih untuk mendeteksi perangkat canggih seperti kacamata pintar dan earphone tersembunyi yang mungkin digunakan oleh siswa untuk melakukan kecurangan berbantuan AI.