Anthropic Perketat Aturan Penggunaan AI, Larang Perilaku Kasar dan Kejam

Perusahaan kecerdasan buatan terkemuka, Anthropic, resmi menerapkan kebijakan baru yang melarang pengguna melakukan interaksi bersifat kasar atau kejam secara berkelanjutan terhadap model AI mereka. Langkah ini diambil sebagai upaya untuk menjaga standar etika penggunaan teknologi di tengah maraknya penggunaan model bahasa besar atau Large Language Models.

Pengguna yang terbukti melanggar aturan ini akan menghadapi konsekuensi tegas dari sistem.

Kebijakan tersebut secara khusus menargetkan perilaku yang dianggap tidak perlu atau sengaja bertujuan menyiksa sistem secara berlebihan. Meski model AI tidak memiliki perasaan layaknya manusia, Anthropic menegaskan bahwa pola interaksi yang manipulatif atau penuh kekerasan bertentangan dengan panduan penggunaan layanan mereka yang sehat dan produktif.

Selain mengatur perilaku pengguna, perusahaan juga melakukan pembaruan signifikan terhadap kebijakan pemilihan umum. Menjelang musim pemilu sela atau midterm di Amerika Serikat, Anthropic berkomitmen untuk membatasi penyebaran disinformasi melalui platform mereka.

Kebijakan pemilu ini mencakup pengawasan lebih ketat terhadap konten yang berpotensi memengaruhi opini publik melalui klaim palsu. Anthropic ingin memastikan teknologi mereka tidak disalahgunakan untuk manipulasi politik atau kampanye hitam yang terorganisir.

Pengawasan ini menjadi tantangan tersendiri bagi para pengembang di industri teknologi. Mereka harus menyeimbangkan antara kebebasan berekspresi pengguna dengan tanggung jawab sosial untuk mencegah dampak negatif dari penyalahgunaan AI.