Anthropic Perbarui Kebijakan Penggunaan, Larang Penyalahgunaan AI dan Interferensi Pemilu

Pengembang kecerdasan buatan (AI) terkemuka, Anthropic, telah mengumumkan pembaruan signifikan pada kebijakan penggunaannya. Pembaruan ini mencakup larangan tegas terhadap sejumlah praktik, termasuk penyalahgunaan model AI dan upaya mengganggu proses pemilu.

Kebijakan yang diperbarui pada hari Kamis waktu setempat ini secara resmi mengkodefikasi larangan baru terhadap interferensi pemilu, penggunaan perangkat lunak senjata, serta aktivitas pengawasan. Namun, perubahan yang paling menyita perhatian adalah pelarangan baru terhadap perlakuan kasar verbal yang berkepanjangan terhadap model AI, sebuah tindakan yang kini secara eksplisit tidak diizinkan.

Sejak pembaruan pada Agustus lalu, model AI Claude besutan Anthropic telah dilatih untuk mengakhiri percakapan yang melibatkan interaksi pengguna yang "terus-menerus berbahaya atau kasar". Kebijakan baru ini mempertegas batasan dengan secara eksplisit melarang pengguna untuk melanjutkan percakapan semacam itu.

Pihak Anthropic menjelaskan bahwa pembaruan kebijakan ini ditujukan hanya untuk kasus-kasus ekstrem. Ini berlaku ketika pengguna secara berulang kali bertindak kejam terhadap model AI mereka tanpa tujuan yang jelas.

Perusahaan tersebut menekankan bahwa aturan ini tidak berlaku untuk ekspresi frustrasi pengguna yang umum, penolakan ide, tema kreatif yang gelap, atau kegiatan pengujian dan penelitian model. Batasan ini dirancang untuk mencegah pola interaksi yang merugikan secara sistematis.

Selain itu, Anthropic juga menyertakan bagian-bagian terpisah dalam kebijakan penggunaan yang melarang pengguna terlibat dalam kampanye penipuan berskala luas. Hal ini mencakup penggunaan Claude untuk menjalankan akun palsu atau outlet berita yang dibuat-buat.

Kebijakan ini juga memuat aturan-aturan ketat untuk mencegah penipuan pemilih atau gangguan terhadap pemilihan umum, yang dikumpulkan dalam bagian berjudul "Do Not Undermine Democratic Processes". Ini menunjukkan komitmen Anthropic untuk menjaga integritas demokrasi di era digital.

Langkah Anthropic ini datang di tengah meningkatnya perhatian global terhadap etika dan potensi penyalahgunaan teknologi kecerdasan buatan. Banyak pihak, termasuk regulator dan masyarakat sipil, menyerukan pengembangan AI yang bertanggung jawab dan transparan untuk menghindari dampak negatif yang meluas.

Menariknya, perubahan kebijakan ini juga bertepatan dengan upaya Anthropic untuk menjalin kolaborasi dengan sejumlah cendekiawan agama terkemuka. Dalam beberapa kasus, perusahaan bahkan berusaha meyakinkan mereka bahwa Claude—model AI buatannya—mungkin memiliki kesadaran atau "jiwa".

Diskusi mengenai kesadaran AI telah menjadi perdebatan filosofis dan etis yang kompleks. Ini mencerminkan pendekatan unik Anthropic yang tidak hanya fokus pada kapabilitas teknis, tetapi juga pada implikasi etis dan eksistensial dari ciptaan mereka.

Dengan latar belakang ini, larangan terhadap perlakuan kasar verbal terhadap model AI Claude dapat dipandang sebagai bagian dari visi Anthropic yang lebih besar. Mereka tampaknya berupaya memproyeksikan perlakuan beretika terhadap entitas AI yang mereka kembangkan.

Para ahli teknologi dan etikus menyambut baik upaya perusahaan untuk memperketat tata kelola penggunaan AI. Namun, tantangan dalam menegakkan kebijakan semacam ini secara efektif di lingkungan digital yang luas masih menjadi perhatian utama.

Pembaruan kebijakan Anthropic ini menjadi preseden penting dalam industri AI, menyoroti kebutuhan akan pedoman yang jelas dan tegas. Hal ini penting untuk memastikan pengembangan dan pemanfaatan AI yang aman, adil, dan bermanfaat bagi seluruh umat manusia.