Deepfake porn adalah konten pornografi yang dibuat dengan cara memanipulasi wajah atau tubuh seseorang (biasanya tanpa persetujuan) menggunakan AI.
Wajah korban bisa siapa saja, mulai dari publik figur, tokoh politik, selebritas, hingga orang biasa, ditempelkan ke video atau gambar seksual, sehingga tampak seperti mereka benar-benar terlibat dalam adegan itu.
Deepfake sendiri awalnya dikembangkan untuk hiburan dan teknologi visual. Namun, sejumlah orang menyalahgunakannya menjadi bentuk pelecehan seksual digital, yakni deepfake porn.
Kabar buruknya, membuat deepfake porn tidak memerlukan studio besar dengan beragam perangkat seperti yang kamu bayangkan. Hanya butuh komputer, koneksi internet, dan software berbasis AI. Artinya, siapapun dengan perangkat tersebut bisa membuat konten deepfake porn.
Berikut tahapan teknisnya:
Proses dimulai dengan mengumpulkan sebanyak mungkin gambar atau video wajah korban. Umumnya, pelaku akan mengambil foto dari media sosial (Instagram, TikTok, Facebook, LinkedIn), meng-capture live video, rekaman Zoom, atau Story, pokoknya dari sumber mana saja.
Semakin banyak ekspresi, sudut wajah, dan pencahayaan berbeda yang dikumpulkan, semakin realistis hasil akhirnya. Ini mengimplikasikan bahwa semakin banyak ekspresi wajah kita yang tersebar di internet, semakin tinggi kemungkinan untuk disalahgunakan.
Setelah memiliki dataset wajah korban, pelaku akan menggunakan algoritma deep learning (terutama Generative Adversarial Network – GAN) untuk:
Setelah model wajah korban siap, pelaku memilih video pornografi asli sebagai “video target”. Lalu menggunakan teknik face-swapping, yaitu menempelkan wajah korban ke wajah asli di video.
Pada tahap ini, banyak penyesuaian yang dilakukan, contohnya mengubah warna kulit, menurunkan resolusi agar detail editan tidak terlihat jelas, dan lain-lain.
Dari ketiga proses ini, terbentuk hasil akhir yakni deepfake porn yang tampak seperti korban benar-benar melakukan aktivitas seksual. Bahkan, deepfake porn bisa ditambahkan suara dengan menggunakan voice cloning tools agar terdengar seperti suara asli korban.
Aktris Scarlett Johansson adalah salah satu korban pertama deepfake porn, di mana wajahnya dimasukkan ke video porno tanpa persetujuannya.
Sumber: The Washington Post
Di tahun 2021, seorang ibu membuat deepfake yang menunjukkan teman-teman anaknya merokok dan bertindak cabul, dengan tujuan membuat mereka dikeluarkan dari tim cheerleader. Ia dituntut karena cyber harassment.
Sumber: CBS News
Sebuah situs web berbayar menyebarkan deepfake porn dari wajah streamer wanita populer, termasuk Pokimane dan Amouranth. Kasus ini viral setelah streamer pria yang menonton kontennya menangis live dan memicu kecaman publik.
Sumber: BBC News
Seorang jurnalis perempuan di India menjadi korban deepfake porn ketika wajahnya dimasukkan ke dalam video porno dan disebarkan luas di media sosial.
Sumber: The Guardian
Polisi Korea Selatan membongkar jaringan yang menggunakan bot dan aplikasi deepfake untuk membuat konten porno dengan wajah perempuan dari media sosial. Ribuan pria ikut membayar layanan ini lewat Telegram.
Sumber: Vice News
Dikutip dari MIT Review, Google mengembangkan platform bernama SynthID, yakni watermark yang bisa disisipkan ke dalam gambar menggunakan teknologi neural network. Jangan bayangkan watermark ini terlihat jelas, ya. Watermark ini tidak terlihat oleh mata kita, tapi tetap bisa dideteksi meski gambar di-crop, discreenshot, atau diedit.
Watermark ini mempermudah identifikasi konten deepfake. Sayangnya, watermark ini bersifat merespons konten yang sudah ada, bukan pencegahan dibuatnya deepfake porn.
Masih dari MIT Technology Review, ada beberapa alat pelindung visual mulai dikembangkan seperti:
Regulasi dan undang-undang dibutuhkan untuk benar-benar mengubah sistem. Kasus viral deepfake Taylor Swift membuat banyak pihak, termasuk pemerintah, mulai menekan pentingnya tindakan hukum.
Penyebaran dan pembuatan deepfake porn dapat dijerat hukum, meski belum ada istilah khusus "deepfake" dalam undang-undang. Berikut beberapa landasan hukum yang bisa digunakan:
Deepfake porn adalah ancaman nyata di era digital yang menargetkan identitas, reputasi, dan privasi seseorang.
Teknologi yang semula netral kini dapat disalahgunakan untuk kejahatan seksual berbasis digital. Namun, dengan edukasi, deteksi dini, dan regulasi hukum yang tepat, kita bisa melawan dan mencegah penyebaran konten semacam ini.