Deepfake adalah ancaman baru karena berpotensi disalahgunakan untuk penyebaran informasi palsu dan pelanggaran privasi. Deepfake pada awalnya digunakan untuk hiburan, terutama dalam film. Deepfake adalah teknik meniru gambar dan suara seseorang menggunakan AI. Hasil dari deepfake terlihat sangat realistis, namun sepenuhnya palsu.
Pertanyaannya, bagaimana bisa deepfake meniru wajah seseorang? Darimana deepfake meniru gambar atau suara milik seseorang?
Proses ini biasanya dimulai dengan kompilasi ratusan atau bahkan ribuan gambar, yang berfungsi untuk melatih “otot” AI. Melalui proses ini, AI dapat memahami fitur wajah dan ekspresi yang rumit, sehingga dapat merekonstruksi dan memanipulasinya.
Teknologi AI yang amat penting dalam pengembangan deepfake adalah Generative Adversarial Networks (GANs). Sistem ini terdiri dari dua jaringan: Generator dan Discriminator.
- Generator:
Jaringan generator bertugas membuat data sintetis yang menyerupai data nyata (gambar, video, dan audio) dari kumpulan data yang diberikan. Awalnya, generator memberikan hasil yang acak. Namun karena dilatih terus-menerus, sistem ini belajar menghasilkan data sintetis (buatan) yang realistis.
- Discriminator:
Fungsi discrimanator adalah membedakan data nyata dari data sintetis yang dibuat oleh generator. Semakin banyak data sintetis yang diproduksi oleh generator, discriminator semakin bekerja keras untuk mencari perbedaannya dari data nyata.
Pada konteks deepfake, generator dan discriminator dirancang untuk terus berkompetisi. Latihan ini membuat generator lebih mahir membuat data sintetis dan discriminator menjadi lebih cerdas dalam membedakan data nyata dan sintetis. Semakin cerdas discriminator, semakin cerdas juga generator dalam membuat data sintetis berkualitas tinggi. Dari proses ini, lahirlah deepfake yang sangat mirip dengan aslinya.
Proses Pembuatan Deepfake
- Pengumpulan dan Pra-pemrosesan Data:
Proses pembuatan deepfake dimulai dengan mengumpulkan dataset besar yang berisi gambar atau video individu target dari berbagai sumber. Kemudian sebelum diproses, terjadi proses standarisasi kualitas gambar untuk meningkatkan kualitas deepfake yang dihasilkan.
- Pelatihan Model Deepfake:
Pelatihan model deepfake yakni melatih GANs untuk menangkap ekspresi wajah, gerakan bibir, pola bicara, dan elemen wajah lainnya dari individu target. Pada tahap ini, generator dan discriminator terus-menerus dilatih agar output semakin menyerupai aslinya.
Kesimpulannya, output deepfake adalah hasil latihan berkelanjutan dari teknologi dibaliknya. Memahami teknologi ini adalah langkah pertama dalam mengembangkan solusi deteksi yang efektif dan memitigasi dampak negatifnya. Salah satu solusi yang bisa digunakan adalah Deepfake Shield. Sebagai bagian dari solusi perlindungan data, VIDA menawarkan deepfake shield untuk memperkuat dan mengontrol seluruh proses menuju akses sistem biometrik, sehingga celah fraud sekecil apapun bisa dicegah.
Download whitepaper VIDA "Are Indonesian Businesses Ready to Combat AI-Generated Fraud?" di sini
