Apple Perketat Aturan App Store, Larang Aplikasi AI Rekayasa Foto Telanjang

Apple mengetatkan panduan pengembang App Store untuk memblokir aplikasi kecerdasan buatan yang memproduksi rekayasa foto telanjang. Kebijakan ini menyasar platform yang sengaja menyembunyikan fitur manipulasi gambar demi meloloskan diri dari peninjauan awal.

Langkah tegas tersebut diambil Apple guna membendung penyalahgunaan teknologi kecerdasan buatan atau AI yang kian meresahkan pengguna secara global.

Dalam pembaruan panduan pengembang, raksasa teknologi asal Cupertino ini memperketat ketentuan seputar konten buatan pengguna. Setiap pengembang aplikasi kini diwajibkan menyediakan sistem moderasi yang mampu menyaring materi tidak senonoh secara otomatis maupun manual. Pengguna juga harus diberi akses langsung untuk melaporkan konten vulgar serta memblokir akun yang menyalahgunakan platform.

Aturan anyar ini memastikan bahwa tidak ada lagi pelonggaran terhadap pembiaran konten ofensif. Seluruh aplikasi wajib memuat mekanisme pencegahan yang jelas sebelum dipublikasikan kepada publik.

Apple menegaskan bahwa aplikasi dengan fitur tersembunyi dilarang keras beroperasi di dalam ekosistem toko aplikasinya.

Taktik pengelabuan yang dikenal sebagai umpan balik atau bait-and-switch kini menjadi target utama pembersihan platform. Modus ini dilakukan pengembang dengan mendaftarkan aplikasi sederhana yang tampak tidak berbahaya saat proses pemeriksaan awal. Namun, begitu mendapatkan lisensi persetujuan, pengembang mengaktifkan kemampuan rahasia berupa pengolah gambar berbasis AI untuk menciptakan gambar pornografi.

Aplikasi yang terbukti menambahkan fitur tanpa persetujuan tim peninjau akan langsung dihapus secara permanen dari App Store.

Aplikasi nudify sendiri bekerja dengan memanfaatkan algoritma kecerdasan buatan untuk melepaskan pakaian dari foto seseorang secara digital. Praktik rekayasa visual ini memicu gelombang kekerasan berbasis gender siber yang menyasar berbagai kalangan di internet. Korban umumnya tidak menyadari bahwa foto yang dipublikasikan di media sosial telah dimanipulasi tanpa persetujuan mereka.

Selain mengatur konten vulgar, Apple memperbarui pasal hukum dalam panduan pengembang untuk memperkuat perlindungan pengguna. Langkah tersebut bertujuan memastikan platform digital miliknya tidak dimanfaatkan untuk mendukung praktik perdagangan manusia maupun eksploitasi anak.

Pengetatan regulasi internal ini didukung oleh data penindakan masif yang telah dilakukan Apple sepanjang tahun lalu.

Sistem peninjauan Apple mencatat telah menghadang lebih dari 150.000 aplikasi bermasalah agar tidak sampai diunduh oleh masyarakat. Perusahaan juga memblokir sekitar 193.000 akun pengembang akibat pelanggaran hukum dan tindakan penipuan. Angka ini menunjukkan besarnya ancaman aplikasi ilegal yang berupaya menembus sistem keamanan iOS.

Langkah pembersihan ini juga tidak lepas dari tekanan hukum pemerintah daerah di Amerika Serikat. Pada Juli lalu, Jaksa Kota San Francisco David Chiu mendesak Apple dan Google untuk segera memusnahkan aplikasi rekayasa foto telanjang.

Chiu menuduh kedua raksasa teknologi tersebut ikut menikmati keuntungan finansial melalui pemotongan biaya transaksi di toko aplikasi.

Sebelumnya, laporan dari lembaga pemantau Tech Transparency Project pada April lalu membeberkan fakta serupa. Laporan tersebut mengungkapkan bahwa toko aplikasi milik Apple dan Google memuat banyak aplikasi rekayasa foto vulgar. Beberapa di antaranya bahkan secara keliru diberi label kategori yang sesuai untuk dikonsumsi oleh anak di bawah umur.

Pembaruan panduan ini menghadirkan standar keselamatan digital yang lebih ketat bagi seluruh pemegang perangkat iPhone di dunia, termasuk di Indonesia.