SUMATERA SELATAN — Apple memperbarui pedoman developer untuk melarang aplikasi AI yang menghasilkan konten ofensif serta aplikasi yang menyembunyikan fitur "nudification" saat proses review App Store. Kebijakan baru ini mewajibkan pengembang menyediakan filter konten, fitur pelaporan, dan pemblokiran akun, dengan ancaman penghapusan aplikasi bagi yang melanggar.
Apple menegaskan bahwa aplikasi yang menampung konten buatan pengguna wajib memfilter materi yang tidak pantas, menyediakan kanal pelaporan bagi pengguna, dan memungkinkan pemblokiran akun abusif. Aturan ini tertuang dalam pembaruan pedoman developer yang dirilis akhir pekan lalu.
Langkah tersebut menargetkan praktik yang oleh Apple disebut sebagai bait-and-switch: aplikasi yang tampil wajar saat proses review, lalu mengaktifkan kemampuan berbahaya seperti nudifikasi setelah lolos dan tersedia di toko aplikasi.
Apa Isi Perubahan Pedoman Apple
Apple menyatakan akan menghapus aplikasi yang menambahkan fitur tidak ada di versi yang diajukan untuk review App Store. Kebijakan ini menutup celah bagi pengembang yang menyembunyikan fitur kontroversial dari tim kurasi.
Perusahaan juga memperbarui bagian legal pedoman untuk menegaskan larangan terhadap aplikasi yang mempromosikan perdagangan manusia dan eksploitasi anak. Bahasa aturan diperketat agar mencakup aplikasi AI yang tidak memoderasi konten ofensif.
Menurut Apple, sistem review-nya memblokir lebih dari 150.000 aplikasi sepanjang tahun lalu agar tidak sampai ke pengguna. Perusahaan juga menghapus 193.000 akun developer karena dugaan penipuan dan penyalahgunaan.
Mengapa Apple Bertindak Sekarang
Tekanan datang dari pemerintah kota. Pada Juli, San Francisco memerintahkan Apple dan Google membersihkan aplikasi nudifikasi dari toko masing-masing. City Attorney David Chiu menuduh kedua perusahaan menikmati keuntungan dari aplikasi tersebut lewat potongan biaya toko.
Sebelumnya, pada April, laporan Tech Transparency Project menemukan bahwa App Store dan Google Play menampung sejumlah aplikasi nudify. Sebagian di antaranya bahkan diberi label layak untuk anak di bawah umur.
Temuan itu memperlihatkan celah moderasi yang lebih luas: aplikasi bisa lolos kurasi dengan menyamarkan fungsi, lalu berubah setelah mendapat persetujuan. Apple kini menutup celah tersebut lewat aturan eksplisit soal fitur tersembunyi.
Dampak bagi Pengembang dan Pengguna
Bagi pengembang, pedoman baru memperketat syarat konten buatan pengguna. Aplikasi wajib punya mekanisme filter otomatis, tombol lapor, dan fitur blokir akun sejak versi pertama yang diajukan.
Pengguna di Indonesia yang memakai aplikasi AI generatif di iPhone ikut terdampak secara tidak langsung. Aplikasi yang gagal memenuhi standar moderasi berisiko ditarik dari App Store global, termasuk pasar lokal.
Apple belum merinci jadwal penegakan aturan ini per region. Namun perusahaan menyatakan akan menghapus aplikasi yang terbukti menyembunyikan fitur dari proses review, tanpa menyebut tenggat khusus.
Langkah Apple melengkapi tekanan regulator di sejumlah negara terhadap aplikasi AI yang menghasilkan gambar palsu bernuansa seksual. Google belum mengumumkan pembaruan pedoman serupa merespons perintah San Francisco.
