Ancaman Deepfake Kian Nyata, Apa Langkah Konkret Pemerintah?

Jakarta, CNN Indonesia --

Ancaman teknologi kecerdasan buatan (AI) deepfake semakin nyata, dengan semakin banyak orang menjadi korban hasil akal imitasi tersebut. Lantas, apa langkah pemerintah menangkal ancaman tersebut?

Kementerian Komunikasi dan Digital (Komdigi) mengungkap pihaknya terus memperkuat upaya perlindungan masyarakat di ruang digital melalui tiga strategi utama, yakni peningkatan literasi digital, penindakan konten berbahaya, dan regulasi perlindungan anak.

"Komdigi berkomitmen menciptakan ruang digital yang aman bagi semua. Kami gencar melakukan literasi digital, melakukan takedown terhadap konten negatif, dan bekerja sama dengan aparat penegak hukum untuk menindak kejahatan digital,"kata Wamenkomdigi Nezar Patria dalam keterangan resminya, Jumat (25/7).

Nezar mengungkap tantangan terbesar saat ini datang dari penyalahgunaan teknologi seperti deepfake AI yang makin canggih. Konten manipulatif visual dan audio ini tidak hanya menyesatkan, tapi juga menyasar kelompok rentan seperti perempuan dan anak.

Deepfake menggunakan AI untuk menghasilkan video atau audio yang benar-benar baru, dengan tujuan akhir untuk menggambarkan sesuatu yang sebenarnya tidak terjadi pada kenyataannya.

Istilah 'deepfake' berasal dari teknologi yang mendasarinya, yakni algoritma pembelajaran mendalam, yang memungkinkan mesin belajar sendiri untuk memecahkan masalah dengan kumpulan data yang besar dan dapat digunakan untuk membuat konten palsu dari orang sungguhan.

"Gelombang perkembangan teknologi membuka peluang luar biasa, tapi juga membuka celah ancaman yang melemahkan kepercayaan antarmasyarakat," jelas Nezar.

Ia mengutip laporan Sensity AI yang menunjukkan lonjakan 550 persen kasus deepfake sejak 2019 dan menyebutkan bahwa 90 persen di antaranya digunakan untuk tujuan berbahaya.

"Yang paling terdampak adalah perempuan dan anak. Setidaknya 11 perempuan usia 15 sampai 29 tahun pernah mengalami kekerasan berbasis gender online sejak usia belia," ujarnya.

Merespons kondisi tersebut, Komdigi menerbitkan Peraturan Pemerintah Nomor 17 Tahun 2025 atau PP TUNAS yang mengatur penyelenggaraan sistem elektronik untuk perlindungan anak.

"Dalam hal ini, kami berharap di tingkat daerah sosialisasinya bisa lebih intensif untuk semua pemangku kepentingan, terutama di sekolah dan komunitas," tutur dia.

Ia menekankan arti penting literasi digital sebagai keterampilan dasar, termasuk kemampuan kritis dalam memilah informasi dan menjaga privasi data.

"AI seharusnya menjadi teman untuk berimajinasi dan berinovasi, bukan untuk membahayakan atau merugikan orang lain," jelasnya.

Bahaya deepfake

Sebagaimana teknologi AI lainnya, deepfake juga bak pedang bermata dua. Di satu sisi dapat memberi manfaat, tapi di sisi lain dapat memberikan dampak negatif.

Beberapa waktu lalu kepolisian Inggris memperingatkan kecerdasan buatan semakin sering digunakan untuk berbagai kejahatan seperti penipuan, pelecehan seksual, hingga eksploitasi anak.

Alex Murray, Kepala Polisi Nasional bidang AI, mengungkapkan aksesibilitas teknologi yang semakin mudah menjadi faktor utama peningkatan penggunanya oleh pelaku kriminal.

"Kita tahu dari sejarah kepolisian bahwa penjahat itu kreatif dan akan menggunakan apa pun untuk melakukan kejahatan. Mereka sekarang menggunakan AI untuk melakukan kejahatan," kata Murray, mengutip The Guardian beberapa waktu lalu.

Kejahatan ini bisa terjadi dalam skala internasional maupun di tingkat individu.

Salah satu kejahatan AI yang berkembang pesat adalah penggunaan teknologi deepfake untuk melakukan penipuan berskala besar. Murray mengungkapkan contoh kasus penipuan menggunakan video deepfake untuk menyamar sebagai eksekutif perusahaan.

Penggunaan AI yang paling mengkhawatirkan adalah untuk menciptakan konten pelecehan anak. Teknologi generatif AI memungkinkan pelaku membuat ribuan gambar dan video pelecehan seksual anak secara sintetik, yang semuanya ilegal.

(dmi/dmi)

[Gambas:Video CNN]