Belibis.com – Sebuah investigasi mengejutkan yang dilakukan oleh Tech Transparency Project (TTP) telah mengungkap adanya puluhan aplikasi berbahaya berjenis ‘nudify’ berbasis kecerdasan buatan (AI) yang beroperasi bebas di Apple App Store dan Google Play Store. Aplikasi-aplikasi ini memiliki kemampuan untuk memanipulasi foto biasa menjadi gambar deepfake seksual yang eksplisit tanpa memerlukan persetujuan subjek, sebuah pelanggaran serius terhadap privasi dan etika.
TTP mengidentifikasi total 55 aplikasi AI di Google Play Store dan 47 aplikasi serupa di Apple App Store yang secara eksplisit menawarkan layanan untuk menelanjangi subjek dalam foto. Temuan ini sangat mengkhawatirkan mengingat kebijakan ketat yang seharusnya diterapkan oleh kedua raksasa teknologi tersebut. Google, melalui Play Developer Policy Center, secara tegas melarang aplikasi yang mengklaim dapat "menelanjangi orang" atau membuat pakaian tembus pandang. Demikian pula, pedoman review Apple melarang keras materi yang bersifat terang-terangan seksual atau pornografi.
"Apple dan Google seharusnya bertindak sebagai penjaga gerbang yang ketat untuk toko aplikasi mereka," ujar Michelle Kuppersmith, direktur eksekutif organisasi nirlaba yang mengelola TTP. "Namun, mereka justru membiarkan puluhan aplikasi beredar yang sangat rentan disalahgunakan untuk menampilkan orang-orang dalam keadaan tanpa busana—sebuah ancaman serius terhadap keamanan digital."
Dampak finansial dari aplikasi-aplikasi terlarang ini sungguh fantastis. Laporan TTP mencatat bahwa aplikasi ‘nudify’ tersebut telah diunduh lebih dari 700 juta kali secara global dan berhasil menghasilkan pendapatan kumulatif mencapai USD 117 juta. Jika dikonversi ke Rupiah, angka ini setara dengan sekitar Rp 1,8 triliun—pendapatan yang sebagian besar dikantongi oleh Apple dan Google melalui sistem komisi mereka.
Ironisnya, banyak dari aplikasi yang melanggar aturan ini justru menyamarkan diri dengan rating yang ramah anak dan remaja. Sebagai contoh, aplikasi populer seperti DreamFace tercatat memiliki rating 13+ di Google Play Store dan bahkan 9+ di Apple App Store, secara tidak langsung menempatkan pengguna yang lebih muda pada risiko paparan atau penyalahgunaan konten seksual deepfake.
Setelah menerima laporan dari TTP, kedua platform mulai bergerak. Juru bicara Apple mengonfirmasi bahwa mereka telah menghapus 28 aplikasi yang disebutkan dalam laporan dan memberikan peringatan keras kepada pengembang lain agar segera memperbaiki pelanggaran mereka. Sementara itu, respons Google cenderung lebih samar. Mereka hanya menyatakan telah menangguhkan "sejumlah" aplikasi yang melanggar kebijakan mereka, tanpa memberikan angka pasti mengenai jumlah yang dihapus.
Insiden ini menambah panjang daftar kontroversi etika seputar teknologi AI generatif. Sebelumnya, Center for Countering Digital Hate (CCDH) melaporkan bahwa chatbot AI Grok milik Elon Musk telah disalahgunakan secara masif untuk membuat sekitar tiga juta gambar cabul dalam periode 11 hari saja, dengan 22.000 di antaranya melibatkan citra anak-anak. Keberadaan aplikasi ‘nudify’ di toko resmi semakin mempertegas kebutuhan mendesak akan pengawasan dan regulasi yang lebih ketat terhadap teknologi AI yang semakin mudah diakses publik.
