REPUBLIKA.CO.ID, SEMARANG -- Wakil Menteri (Wamen) Komunikasi dan Digital (Komdigi) Nezar Patria mengomentari kasus pembuatan konten deepfake vulgar yang korbannya siswi dan alumni SMAN 11 Semarang. Menurutnya, pemanfaatan kecerdasan buatan atau AI untuk memproduksi konten deepfake sudah menjadi persoalan global.
“Ini bukan hanya problem lokal, tapi sudah berlangsung di tingkat global terkait penggunaan generative AI untuk membuat konten deepfake seperti ini,” ujar Nezar seusai menghadiri acara Digital Talent War 2025 di Universitas Katolik Soegijapranata (Unika) Semarang, Kamis (13/11/2025).
Menurut Nezar, AI seharusnya bisa dimanfaatkan untuk hal positif dan kebaikan bersama, bukan justru disalahgunakan dengan tujuan merugikan orang lain. "Etika digital dan kesadaran pengguna menjadi kunci utama,” katanya.
Dia mengakui pentingnya literasi digital di tengah masifnya adopsi AI. Hal itu termasuk pemahaman tentang etika digital. Tujuannya agar kejahatan seperti yang dialami siswi dan alumni SMAN 11 Semarang tak terulang.
"Literasi penggunaan AI harus digencarkan. Pengembang dan platform AI wajib meliterasi para penggunanya, agar mereka tidak menjadi korban atau pelaku kejahatan digital," ujar Nezar.
Nezar mengatakan, industri teknologi AI saat ini tengah mengembangkan sistem content authentication. Tujuannya mendeteksi dan melacak penggunaan AI dalam pembuatan konten digital.
“Setiap produk AI harus transparan dan akuntabel. Harus ada metadata atau watermark yang menyatakan bahwa konten tersebut dibuat oleh AI,” ucap Nezar.
Dia menekankan pentingnya transparansi dalam pengembangan teknologi AI agar masyarakat dapat mengenali konten yang dihasilkan AI dan tidak terjebak manipulasi digital. “Kalau konten itu melanggar hukum, metadata bisa membantu proses pelacakan dan penegakan hukum,” ujarnya.
Belasan perempuan yang terdiri siswi, alumni, dan guru SMAN 11 Semarang menjadi korban pembuatan konten deepfake vulgar. Terduga pelaku adalah Chiko Radityatama Agung Putra.
Dia merupakan alumnus SMAN 11 Semarang yang kini terdaftar sebagai mahasiswa Fakultas Hukum Universitas Diponegoro angkatan 2025. Polda Jawa Tengah telah menetapkan Chiko sebagai tersangka dalam kasus tersebut.
Ikuti Whatsapp Channel Republika