Ketika kecerdasan artifisial (AI) mampu meniru wajah dan suara seseorang dengan semakin meyakinkan, masyarakat membutuhkan cara untuk memeriksa apakah suatu konten benar-benar asli.
Wakil Menteri Komunikasi dan Digital Nezar Patria menyoroti pentingnya jejak keaslian atau provenance and authenticity agar manipulasi konten dapat dikenali, sekaligus menilai perlunya peran platform digital dan pengembang AI dalam mendeteksi deepfake.
Menurutnya, diperlukan perhatian serius terhadap ancaman deepfake karena konten palsu yang tampak meyakinkan berpotensi menyesatkan berbagai kelompok masyarakat, termasuk mereka yang rentan terhadap penipuan berbasis teknologi AI.
“Video-video palsu yang dibuat dengan teknologi deepfake AI itu berhasil menipu banyak sekali masyarakat kita, terutama mereka yang cukup rentan, mereka yang di usia lanjut dan anak-anak. Bahkan mereka yang terpelajar juga banyak menjadi korban,” ungkapnya dalam acara IT Governance, Risk Management, Assurance, and Cybersecurity Summit 2026 di Jakarta Selatan, Rabu (14/10/2026).
Ia mengambil contoh dari beberapa insiden tahun lalu yang mencatut sejumlah nama gubernur dalam video deepfake untuk menipu masyarakat agar mendepositokan uang mereka ke rekening tertentu.
“Tidak tanggung-tanggung, pembuatan video deepfake misalnya, itu mencatut nama-nama orang yang cukup terkenal, bahkan presiden sekalipun dicatut. Sejumlah gubernur, tahun lalu, menjadi korban karena digunakan dalam video-video yang beredar untuk menganjurkan masyarakat mendepositokan uang yang mengakibatkan kerugian puluhan juta,” imbuh Wamen Nezar.
Maka dari itu, Wamen Nezar menekankan agar tanggung jawab pendeteksian deepfake harus dibebankan kepada para pengembang AI serta platform-platform penyedia konten tersebut.
“Tanggung jawab untuk pendeteksian deepfake harus pertama-tama dibebankan kepada platform yang menyediakan konten-konten seperti ini dan para pengembang AI. Jadi, harus ada yang namanya jejak otentisitas dari satu konten yang dihasilkan,” ujarnya.
Pendekatan provenance and authenticity atau jejak keaslian dinilai penting untuk diterapkan agar hasil manipulasi menggunakan AI dapat diidentifikasi sehingga masyarakat dapat membedakan konten asli dan konten yang telah dimanipulasi.
“Pendekatan ini juga sudah dilakukan di tingkat global, misalnya sejumlah perangkat smartphone terbaru sudah memberikan metadata dari foto yang kita ambil sehingga kalau dimanipulasi menggunakan artificial intelligence, tetap bisa dibaca jejaknya. Itu salah satu bentuk pendekatan yang kita kenal sebagai provenance and authenticity,” jelas Wamen Nezar.
Selain penguatan teknologi untuk menelusuri keaslian konten, Wamen Nezar menekankan pentingnya meningkatkan kecakapan digital masyarakat agar mampu mengenali konten hasil manipulasi AI dan mengambil langkah yang tepat ketika menemukan indikasi kejahatan siber.
“Kita juga membutuhkan masyarakat cakap digital yang bisa membedakan mana konten yang otentik dan yang digarap oleh AI. Masyarakat yang tidak mudah tertipu dan tentu saja yang berani melapor ketika ada kasus, karena laporan-laporan itu penting sekali untuk kemudian dianalisis dan dideteksi sejauh mana kejahatan-kejahatan siber ini berjalan,” tandasnya.
Siaran Pers No. 211/HM-KKD/10/2026
Rabu, 14 Oktober 2026