Kemkomdigi Soroti Penyalahgunaan Grok AI: Ancam Sanksi Tegas X Terkait Konten Asusila Deepfake

JAKARTA — Kementerian Komunikasi dan Digital (Kemkomdigi) secara resmi menindaklanjuti dugaan penyalahgunaan fitur kecerdasan buatan (AI) Grok pada platform X. Fitur tersebut ditengarai dimanfaatkan untuk memproduksi dan menyebarkan konten asusila melalui manipulasi foto pribadi (deepfake) tanpa persetujuan pemiliknya.

Direktur Jenderal Pengawasan Ruang Digital, Alexander Sabar, mengungkapkan bahwa penelusuran awal menunjukkan Grok AI belum memiliki sistem filtrasi yang memadai untuk mencegah produksi konten pornografi berbasis foto nyata.

“Temuan awal kami menunjukkan belum adanya pengaturan spesifik dan eksplisit dalam Grok AI untuk mencegah pemanfaatan teknologi ini dalam pembuatan konten pornografi. Hal ini merupakan pelanggaran serius terhadap privasi dan right to one’s image (hak atas citra diri) warga negara,” ujar Alexander di Jakarta, Rabu (07/01/2026).

Kemkomdigi menegaskan bahwa manipulasi digital bukan sekadar isu kesusilaan, melainkan bentuk perampasan kendali individu atas identitas visual mereka yang berdampak fatal pada psikologis dan reputasi korban.

Sebagai langkah tegas, Kemkomdigi kini berkoordinasi dengan Penyelenggara Sistem Elektronik (PSE) terkait untuk memastikan adanya mekanisme perlindungan yang efektif, termasuk penguatan moderasi konten dan pencegahan deepfake asusila.

Alexander memperingatkan bahwa seluruh PSE yang beroperasi di Indonesia wajib tunduk pada regulasi domestik. Ketidakpatuhan atau sikap tidak kooperatif dari pihak pengembang AI maupun platform penyedia dapat berujung pada sanksi berat.

“Apabila ditemukan ketidakpatuhan, Kemkomdigi tidak segan menjatuhkan sanksi administratif hingga pemutusan akses layanan Grok AI maupun platform X secara keseluruhan di Indonesia,” tegas Alexander.

Payung Hukum UU KUHP Baru
Langkah ini sejalan dengan implementasi Undang-Undang Nomor 1 Tahun 2023 tentang Kitab Undang-Undang Hukum Pidana (KUHP) yang telah berlaku efektif sejak 2 Januari 2026. Berdasarkan Pasal 172 dan Pasal 407 UU KUHP:

Pornografi didefinisikan secara luas sebagai media yang memuat kecabulan atau eksploitasi seksual, dengan sanksi Pidana bagi Pelaku penyebaran dapat dijatuhi pidana penjara minimal 6 bulan hingga maksimal 10 tahun, serta denda material yang signifikan.

IMBAUAN BAGI MASYARAKAT

Kemkomdigi mengimbau masyarakat yang menjadi korban manipulasi foto atau deepfake untuk segera menempuh jalur hukum melalui aparat penegak hukum atau melaporkannya melalui kanal pengaduan resmi Kemkomdigi.

“Kami ingatkan kembali bahwa ruang digital bukan ruang tanpa hukum. Teknologi harus digunakan secara bertanggung jawab. Ada hak citra diri warga yang harus dihormati dan dilindungi,” pungkasnya.(kp/mn)