Gunakan AI Claude Sebagai Buku Harian, Wanita di Florida Berujung Penjara

Seorang wanita asal Bonita Springs, Florida, harus berurusan dengan hukum setelah catatan pribadinya di platform kecerdasan buatan, Claude, memicu respons kepolisian. Carli Michelle Heller ditangkap oleh pihak berwenang karena menulis ancaman penembakan terhadap Kantor Sheriff Lee County melalui percakapan dengan AI tersebut.

Kejadian ini bermula pada 26 September ketika Heller mencurahkan niat buruknya ke dalam platform yang dikembangkan oleh perusahaan Anthropic tersebut. Berdasarkan dokumen kepolisian, Heller bahkan mengklaim telah mendapatkan senjata api baru sehari setelah ia menulis ancaman pertamanya.

Sistem keamanan Anthropic secara otomatis memantau setiap input pengguna untuk mendeteksi frasa kunci atau konten yang mengandung ancaman. Setelah algoritma mendeteksi konten berbahaya tersebut, pesan itu diteruskan kepada tim peninjau manusia yang kemudian melapor ke aparat penegak hukum.

Petugas kepolisian akhirnya mendatangi kediaman Heller dan melakukan penangkapan tanpa perlawanan. Saat ini, ia menghadapi dakwaan tindak pidana terkait pembuatan ancaman tertulis untuk melakukan kekerasan.

Perlu diketahui, kebijakan privasi Anthropic memberikan hak penuh kepada perusahaan untuk melaporkan aktivitas pengguna kepada polisi atas kebijaksanaan mereka sendiri. Perusahaan dapat membagikan data jika mereka meyakini hal tersebut perlu dilakukan guna mencegah bahaya serius bagi masyarakat luas.

Bahkan pengguna yang memilih untuk tidak mengikutsertakan datanya dalam pelatihan model AI tetap tidak memiliki privasi penuh. Anthropic masih diizinkan menyimpan dan menggunakan data percakapan selama tiga bulan untuk keperluan pemantauan keamanan.

Tidak hanya itu, percakapan yang ditandai karena melanggar aturan keamanan akan dialihkan menjadi materi pelatihan. Hal ini bertujuan agar sistem deteksi perusahaan semakin mampu mengidentifikasi konten serupa di masa mendatang.

Kasus ini bukanlah yang pertama kali terjadi pada pengguna platform tersebut. Sebelumnya, seorang pria di San Francisco juga dilaporkan ke polisi setelah menulis ancaman terhadap CEO Anthropic, Dario Amodei, meski ia mengaku hanya sedang bercanda saat itu.

Perdebatan mengenai batasan privasi antara pengguna dan penyedia layanan AI kini semakin mengemuka. Perusahaan besar seperti OpenAI pun memiliki protokol serupa, di mana mereka meninjau ancaman melalui tim manusia sebelum memutuskan untuk melibatkan pihak berwajib.

Bagi Heller, proses hukum akan terus berlanjut di pengadilan pada November mendatang. Insiden ini menjadi pengingat keras bahwa ruang digital yang dianggap pribadi sebenarnya sangat terbuka bagi pengawasan pihak ketiga.