Menguak Ancaman Kecerdasan Buatan Terhadap Demokrasi di Forum Athena

Forum Demokrasi Athena tahun ini menitikberatkan diskusi pada bagaimana ancaman kecerdasan buatan dapat mengikis pilar-pilar kebebasan politik di seluruh dunia. Perkembangan teknologi yang sangat cepat kini dipandang bukan lagi sekadar alat bantu manusia, melainkan juga sebuah tantangan nyata bagi keberlangsungan sistem demokrasi global.

Para delegasi yang berkumpul di ibu kota Yunani tersebut sepakat bahwa manipulasi informasi berbasis kecerdasan buatan generatif telah mencapai tingkat yang mengkhawatirkan.

Athens Democracy Forum merupakan pertemuan tahunan yang mempertemukan para pemimpin politik, akademisi, dan jurnalis internasional untuk membahas masa depan pemerintahan demokratis. Dalam sesi diskusi panel, para ahli memaparkan data mengenai bagaimana algoritma media sosial dapat mempercepat penyebaran berita bohong secara masif. Kondisi ini diperparah oleh kemampuan teknologi digital yang dapat memproduksi video rekayasa atau deepfake dengan biaya yang sangat murah.

Diperkirakan lebih dari empat miliar orang di puluhan negara menggunakan hak pilih mereka dalam pemilu sepanjang tahun ini, sebuah momentum yang sangat rentan terhadap distorsi informasi. Penggunaan robot percakapan pintar dan manipulasi audio bahkan telah ditemukan dalam beberapa kampanye politik di tingkat lokal maupun nasional.

"Teknologi ini bekerja jauh lebih cepat daripada kemampuan hukum kita untuk mengaturnya," ujar salah satu panelis dalam diskusi tersebut.

Indonesia sendiri tidak luput dari dampak pemanfaatan teknologi kecerdasan buatan dalam kontestasi politik, seperti yang terlihat pada Pemilu 2024 lalu. Penggunaan teknologi kloning suara dan visual tokoh politik masa lalu sempat memicu perdebatan hangat di tengah masyarakat mengenai etika kampanye. Banyak pihak khawatir tanpa adanya regulasi yang jelas, pemilih akan kesulitan membedakan antara informasi yang asli dengan hasil rekayasa komputer.

Untuk mengantisipasi bahaya tersebut, Uni Eropa telah meresmikan Undang-Undang Kecerdasan Buatan atau AI Act sebagai langkah hukum pertama di dunia yang mengatur batasan teknologi ini. Aturan ketat ini mengenakan denda hingga puluhan juta euro bagi perusahaan teknologi yang melanggar standar keamanan data dan transparansi informasi.

Namun, efektivitas regulasi regional tersebut masih diragukan karena sifat internet yang lintas batas negara tanpa sekat geografis.

Para pembicara di Athena mendesak adanya pakta global yang didukung oleh Perserikatan Bangsa-Bangsa untuk menetapkan standar etika penggunaan kecerdasan buatan. Pendidikan literasi digital bagi masyarakat sipil juga dianggap sebagai benteng pertahanan terakhir yang paling realistis saat ini. Tanpa kesadaran kritis dari pengguna internet, konten manipulatif akan terus dengan mudah memecah belah opini publik.

Tantangan terbesar saat ini adalah mendeteksi konten buatan mesin secara cepat sebelum menyebar luas ke jutaan pengguna telepon seluler. Algoritma pendeteksi sering kali tertinggal selangkah di belakang teknologi pembuat manipulasi itu sendiri.

Masa depan demokrasi kini sangat bergantung pada bagaimana komunitas internasional merumuskan batas etis antara inovasi teknologi dan perlindungan ruang publik.