Melawan Deepfake dengan Teknologi dan Regulasi

Meta, induk perusahaan Facebook and Instagram, mengumumkan rencana untuk memberi label pada konten-konten berbasis AI mulai Mei mendatang. Alih-alih menghapus konten AI, Meta akan melabelinya untuk mempertahankan kebebasan berpendapat. Jadi nantinya, konten AI akan diberi label “Made with AI”. Langkah ini dianggap tepat karena saat ini semakin sulit membedakan konten asli dan deepfake.  

Sebelum inisiatif itu diluncurkan, sudah ada beberapa alat yang bisa digunakan untuk mendeteksi konten deepfake. 

Teknologi untuk mendeteksi deepfake 

• Microsoft Video Authenticator Tool: Alat yang diluncurkan tahun 2023 ini menganalisis video dan foto lalu menghasilkan "skor kepercayaan" yang menunjukkan adanya kemungkinan manipulasi. Alat ini berfokus pada inkonsistensi visual, terutama elemen keabuan pada konten. 
• Intel's FakeCatcher: Alat ini diklaim memiliki tingkat akurasi 96%. Alat ini mampu menganalisis aspek fisiologis pada wajah seperti aliran darah dan gerakan mata.  
• Resemble Detect: Alat ini secara khusus menargetkan deepfake dalam format audio dan video. 

Untuk analisis yang lebih komprehensif, ketiga alat tersebut bisa dikombinasi. Jika belum memiliki software di atas, Anda bisa melakukan deteksi dini konten deepfake. Namun perlu diingat bahwa cara manual ini belum tentu akurat sebab deepfake semakin sulit dibedakan dari yang asli. 

Regulasi deepfake di seluruh dunia 

Secara regulasi, Komisi Perdagangan Federal Amerika Serikat (FTC) mengusulkan undang-undang baru untuk mengatasi ancaman meningkatnya teknologi deepfake yang digunakan untuk penipuan. Undang-undang ini diusulkan untuk memperluas regulasi dalam melawan penipuan yang didukung oleh AI. 

Pada Pertemuan Tahunan Forum Ekonomi Dunia di Davos pada Januari 2024, fokus utamanya adalah membangun kepercayaan. Hal ini berkenaan dengan deepfake yang menjadi ancaman serius bagi kepercayaan publik. Penipuan ini dapat merusak keyakinan pada pemerintah, media, sistem keadilan, dan lembaga swasta. 

Dikutip dari Responsbile AI Institute, Pada tahun 2019, pemerintah China menerapkan undang-undang yang mewajibkan individu dan organisasi mengungkap penggunaan deepfake mereka. Pada Januari 2023, China juga memberlakukan ketentuan melalui Administrasi Cyber Tiongkok (CAC), yang memengaruhi penyedia dan pengguna teknologi deepfake. Ketentuan ini mengatur prosedur dari produksi hingga distribusi teknologi deepfake. 

Dari Responsible AI Institute, Korea Selatan menjadi pelopor dalam penelitian dan regulasi kecerdasan buatan (AI), dengan berinvestasi besar-besaran pada teknologinya. Pada tahun 2016, pemerintah mengumumkan investasi sebesar 1 triliun won selama lima tahun untuk penelitian AI. Pada Desember 2019, Korea Selatan merumuskan Strategi Nasional untuk AI. Pada tahun 2020, negara tersebut mengeluarkan undang-undang untuk melawan distribusi deepfake yang merugikan, dengan memberlakukan hukuman hingga 5 tahun penjara atau denda hingga 50 juta won. 

Dikutip dari bullyid, undang-undang yang mengatur tindakan deepfake ada pada UU ITE. Pasal 35 UU ITE misalnya berbunyi: 

”Setiap Orang dengan sengaja dan tanpa hak atau melawan hukum melakukan manipulasi, penciptaan, perubahan, penghilangan, pengrusakan Informasi Elektronik dan/atau Dokumen Elektronik dengan tujuan agar Informasi Elektronik dan/atau Dokumen Elektronik tersebut dianggap seolah-olah data yang otentik.”

Tindakan ini diancam dengan hukuman pidana dengan penjara paling lama 12 tahun atau denda paling banyak Rp12.000.000.000,00 (dua belas miliar rupiah) berdasarkan pasal 51 UU ITE.

Lalu, penggunaan wajah dan suara dalam deepfake juga melanggar undang-undang perlindungan data pribadi, dengan sanksi hukuman penjara hingga 6 tahun atau denda hingga Rp6 miliar berdasarkan Pasal 66 dan 68 UU PDP. 

Deepfake yang berisi konten pornografi juga melanggar UU Pornografi dan dapat dikenai sanksi hukuman penjara hingga 12 tahun dan/atau denda hingga Rp6 miliar menurut Pasal 4 dan 29 UU Pornografi. 

Cara mendeteksi deepfake 

Coba perhatikan ekspresi wajah dan gerakan pada beberapa video hasil deepfake. Gerakannya tidak alami. Gerakan wajah dan tubuh pada manusia asli lebih natural dan lancar, sementara pada deepfake terlihat patah-patah, tidak sinkron antar anggota tubuh, dan terlihat kaku.

Ketidaksinkronan antara audio dan video adalah ciri lain dari potensi deepfake. Video asli memiliki sinkronisasi yang konsisten antara elemen visual dan audio. Sementara deepfake seringkali kesulitan menyinkronkan aspek-aspek tersebut, sehingga terlihat ada perbedaan antara audio dan video.

Karena deepfake merupakan hasil AI, biasanya gerak mata atau kedipan tidak natural. Sayangnya, deepfake yang semakin canggih membuat deteksi gerak mata sulit dilakukan. Menggunakan algoritma deteksi untuk memonitor gerak mata dan kedipan pada subjek video dapat membantu untuk mengidentifikasi manipulasi.

Ketidakkonsistenan warna dan bayangan bisa membantu identifikasi video deepfake. Hal ini terjadi karena AI masih kesulitan untuk mereplikasi kondisi pencahayaan dan bayangan di dunia nyata secara akurat. Terkadang, warna dan bayangan juga terdistorsi. 

Deepfake telah banyak digunakan untuk manipulasi identitas pribadi. Umumnya, deepfake dipakai pada saat proses verifikasi identitas menggunakan biometrik. Misalnya, foto Anda dijadikan deepfake lalu dipakai saat mendaftar aplikasi pinjaman online ilegal, sehingga Anda menjadi pengguna pinjol tersebut tanpa sepengetahuan Anda. Itulah mengapa, penting juga untuk waspada saat membagikan foto diri di internet. Lalu bagi perusahaan terutama yang bergerak di sektor yang berhubungan dengan data pribadi pengguna, penting untuk menggunakan teknologi yang dapat mencegah penyusupan deepfake. 

Sebagai bagian dari solusi perlindungan data, VIDA menawarkan pengembangan teknologi yang lebih terkini yakni VIDA Deepfake Shield. VIDA telah diperkuat dengan kemampuan untuk mengontrol seluruh proses saat proses verifikasi biometrik, sehingga celah fraud sekecil apapun bisa cepat dicegah.