Skandal Aplikasi Nudify: Apple dan Google Melanggar Aturan?
- Xavier Lorenzo/Getty
- Laporan Tech Transparency Project (TTP) menemukan Apple dan Google mempromosikan aplikasi "nudify" berbasis AI.
- Aplikasi ini menghasilkan pendapatan hingga $122 juta meski melanggar kebijakan konten pornografi secara eksplisit.
- Apple dan Google baru menghapus sebagian kecil aplikasi setelah investigasi ini mencuat ke publik.
Raksasa teknologi Apple dan Google kini menghadapi kritik tajam setelah laporan terbaru menyebut mereka mempromosikan aplikasi nudify. Tech Transparency Project (TTP) mengungkapkan bahwa kedua perusahaan melanggar aturan internal mereka sendiri terkait konten pornografi. Meskipun kebijakan resmi melarang materi seksual eksplisit, investigasi menemukan ratusan aplikasi pengolah gambar bertenaga AI masih tersedia secara bebas bagi pengguna global.
Investigasi Mendalam Tech Transparency Project
Lembaga nirlaba TTP pertama kali mengidentifikasi lebih dari 100 aplikasi yang bertujuan menciptakan gambar intim tanpa persetujuan pada Januari lalu. Aplikasi nudify ini memanfaatkan teknologi AI generatif untuk memanipulasi foto korban, yang mayoritas adalah perempuan. Investigasi lanjutan pada bulan April menunjukkan bahwa 40% dari 10 aplikasi teratas di kedua toko aplikasi secara terang-terangan mengiklankan fitur manipulasi konten dewasa.
Bahkan, Google secara khusus membuat karusel iklan yang meningkatkan visibilitas aplikasi seksual paling eksplisit dalam investigasi tersebut. Hal ini sangat kontras dengan kebijakan tertulis kedua perusahaan. Apple melarang konten pornografi terang-terangan, sementara Google melarang pose seksual yang menyuguhkan subjek telanjang atau berpakaian minim.
Keuntungan Finansial di Balik Konten Ilegal
Mengapa raksasa teknologi ini tampak kurang waspada terhadap pelanggaran tersebut? Data dari firma analitik AppMagic memberikan gambaran mengejutkan terkait sisi ekonomi. Aplikasi nudify tercatat telah mendapatkan unduhan sebanyak 483 juta kali dengan total pendapatan mencapai $122 juta selama masa aktifnya.
TTP menduga bahwa aliran pendapatan ini menjadi alasan utama kedua perusahaan kurang waspada dalam menindak aplikasi yang melanggar kebijakan. Apple dan Google mengambil potongan dari setiap transaksi langganan dan iklan yang berjalan pada platform mereka. Kondisi ini memicu kekhawatiran tentang prioritas keuntungan di atas keselamatan pengguna.
Dampak Luas Deepfake AI bagi Masyarakat
Setelah berita ini mencuat, Apple segera menghapus 15 aplikasi yang dilaporkan dan memblokir istilah pencarian tertentu. Sementara itu, Google mengonfirmasi penghapusan tujuh aplikasi dari platform mereka. Namun, langkah ini dianggap terlambat bagi banyak pihak yang fokus pada isu kekerasan seksual berbasis digital.
