WASHINGTON, 24 Julai — Apl foto yang membuka pakaian wanita secara digital, menggesa teks-ke-imej yang berseksual mencipta “gadis AI” dan imej yang dimanipulasi yang mencetuskan raket “sekstortion” — ledakan dalam porno palsu mendalam mengatasi usaha AS dan Eropah untuk mengawal selia teknologi.
Deepfake yang didayakan kecerdasan buatan biasanya dikaitkan dengan imej viral palsu personaliti terkenal seperti Pope Francis dalam kot puffer atau Donald Trump dalam tahanan, tetapi pakar mengatakan ia lebih banyak digunakan untuk menghasilkan lucah tanpa persetujuan yang boleh memusnahkan kehidupan biasa.
Wanita ialah sasaran khusus alat dan apl AI — tersedia secara meluas secara percuma dan tidak memerlukan kepakaran teknikal — yang membolehkan pengguna menanggalkan pakaian secara digital daripada gambar mereka, atau memasukkan muka mereka ke dalam video seks yang eksplisit.
“Peningkatan pornografi buatan AI dan lucah palsu menormalkan penggunaan imej atau rupa wanita tanpa persetujuannya,” kata Sophie Maddocks, seorang penyelidik di Universiti Pennsylvania yang menjejaki penderaan seksual berasaskan imej, kepada AFP.
“Apakah mesej yang kami hantar tentang persetujuan sebagai masyarakat apabila anda boleh membogelkan mana-mana wanita?”
Dalam video yang penuh sebak, seorang penstrim American Twitch yang menggunakan QTCinderella merungut “eksploitasi dan objektif yang berterusan” terhadap wanita apabila dia menjadi mangsa lucah palsu. Dia diganggu, tambahnya, oleh orang yang menghantar salinan deepfakes yang menggambarkan dirinya.
Skandal itu meletus pada Januari semasa siaran langsung oleh rakan strim Brandon Ewing, yang ditangkap melihat laman web yang mengandungi imej seksual palsu beberapa wanita termasuk QTCinderella.
“Ia tidak semudah ‘hanya’ dilanggar. Ia lebih daripada itu,” tulisnya di Twitter, sambil menambah bahawa pengalaman itu telah “merosakkan” dirinya.
‘Hiper-nyata’
Percambahan deepfakes dalam talian menggariskan ancaman pembohongan yang didayakan AI, yang boleh merosakkan reputasi dan membawa kepada buli atau gangguan.
Walaupun selebriti seperti penyanyi Taylor Swift dan pelakon Emma Watson telah menjadi mangsa lucah palsu, wanita yang tidak menjadi perhatian umum juga menjadi sasaran.
Media Amerika dan Eropah dipenuhi dengan kesaksian tangan pertama wanita – daripada ahli akademik hingga aktivis – yang terkejut apabila mendapati wajah mereka dalam lucah palsu.
Kira-kira 96 peratus daripada video palsu dalam talian adalah pornografi tanpa persetujuan, dan kebanyakannya menggambarkan wanita, menurut kajian 2019 oleh syarikat AI Belanda Sensity.
“Tindakan fantasi seksual yang sebelum ini peribadi, yang berlaku di dalam fikiran seseorang, kini dipindahkan kepada pencipta teknologi dan kandungan di dunia nyata,” Roberta Duffield, pengarah perisikan di Blackbird.AI, memberitahu AFP.
“Kemudahan akses dan kekurangan pengawasan – di samping profesionalisasi industri yang semakin meningkat – mengukuhkan teknologi ini ke dalam bentuk baharu mengeksploitasi dan mengecilkan wanita.”
Antara tanaman baharu penjana teks-ke-seni ialah apl percuma yang boleh mencipta “gadis AI hiper-sebenar” — avatar daripada foto sebenar, menyesuaikannya dengan gesaan seperti “kulit gelap” dan “tali paha.”
Teknologi baharu seperti Stable Diffusion, model AI sumber terbuka yang dibangunkan oleh Stability AI, telah memungkinkan untuk menghasilkan imej realistik daripada penerangan teks.
‘Sudut gelap’
Kemajuan teknologi telah menimbulkan apa yang Duffield sebut sebagai “industri kotej yang berkembang” di sekitar lucah yang dipertingkatkan AI, dengan banyak pencipta palsu menerima permintaan berbayar untuk menjana kandungan yang menampilkan orang pilihan pelanggan.
Bulan lalu, FBI mengeluarkan amaran tentang “skim sekstortion,” di mana penipu menangkap foto dan video dari media sosial untuk mencipta palsu “bertema seksual” yang kemudiannya digunakan untuk memeras wang.
Mangsa, tambah FBI, termasuk kanak-kanak di bawah umur dan orang dewasa yang tidak bersetuju.
Percambahan alat AI telah mengatasi peraturan.
“Ini bukan sudut gelap internet di mana imej ini dicipta dan dikongsi,” Dan Purcell, ketua eksekutif dan pengasas syarikat perlindungan jenama AI Ceartas, memberitahu AFP.
“Ia betul-betul di bawah hidung kami. Dan ya, undang-undang perlu mengejar.”
Di Britain, kerajaan telah mencadangkan Rang Undang-Undang Keselamatan Dalam Talian baharu yang bertujuan untuk menjenayahkan perkongsian palsu lucah.
Empat negeri AS, termasuk California dan Virginia, telah mengharamkan pengedaran pornografi palsu, tetapi mangsa sering mendapat sedikit tindakan undang-undang jika pelaku tinggal di luar bidang kuasa ini.
Pada bulan Mei, seorang penggubal undang-undang AS memperkenalkan Akta Mencegah Pemalsuan Dalaman Imej Intim yang akan menjadikan perkongsian pornografi palsu dalam tanpa persetujuan tidak sah.
Ruang dalam talian popular seperti Reddit juga telah berusaha untuk mengawal selia komuniti lucah AI yang sedang berkembang.
“Internet adalah satu bidang kuasa tanpa sempadan, dan perlu ada satu undang-undang antarabangsa yang bersatu untuk melindungi orang ramai daripada bentuk eksploitasi ini,” kata Purcell. — AFP