JAKARTA – Kementerian Komunikasi dan Digital (Kemkomdigi) tengah mendalami dugaan penyalahgunaan teknologi kecerdasan buatan (AI) Grok yang terintegrasi pada platform X. Teknologi tersebut diduga dimanfaatkan secara masif untuk menghasilkan dan menyebarkan konten pornografi berbasis deepfake, khususnya melalui manipulasi foto pribadi warga Indonesia tanpa izin.
Praktik tersebut dinilai berpotensi melanggar hak privasi serta hak atas citra diri. Maraknya konten deepfake bermuatan asusila yang menggunakan foto nyata masyarakat menjadi sorotan utama Kemkomdigi. Temuan sementara mengindikasikan adanya celah pengamanan serius dalam sistem Grok AI.
“Hasil penelusuran awal menunjukkan Grok AI belum memiliki pengaturan yang eksplisit dan memadai untuk mencegah produksi serta distribusi konten pornografi berbasis foto nyata warga Indonesia,” ujar Direktur Jenderal Pengawasan Ruang Digital Kemkomdigi, Alexander Sabar, dalam keterangan pers, Rabu (7/1/2026).
Alexander menegaskan bahwa persoalan ini tidak semata menyangkut aspek kesusilaan, tetapi juga merupakan ancaman langsung terhadap integritas dan martabat pribadi korban.
“Kemkomdigi menilai manipulasi digital terhadap foto pribadi bukan sekadar pelanggaran norma, melainkan bentuk perampasan kendali individu atas identitas visualnya, yang dapat menimbulkan dampak psikologis, sosial, dan kerugian reputasi jangka panjang,” jelasnya.
Untuk menangani persoalan tersebut, Kemkomdigi saat ini melakukan koordinasi intensif dengan sejumlah Penyelenggara Sistem Elektronik (PSE) terkait, termasuk platform X. Langkah prioritas yang disiapkan mencakup penguatan moderasi konten, pencegahan produksi deepfake bermuatan seksual, serta penerapan mekanisme respons cepat terhadap laporan pelanggaran.
“Setiap PSE wajib memastikan teknologi yang mereka sediakan tidak menjadi sarana pelanggaran privasi, eksploitasi seksual, maupun perusakan martabat seseorang,” tegas Alexander.
Pemerintah juga menekankan kewajiban seluruh PSE asing yang beroperasi di Indonesia untuk mematuhi regulasi nasional. Apabila ditemukan ketidakpatuhan atau sikap tidak kooperatif, Kemkomdigi membuka peluang menjatuhkan sanksi administratif hingga pemutusan akses terhadap layanan Grok AI maupun platform X.
Kasus ini menambah daftar tantangan dalam pengawasan teknologi AI di ruang digital Indonesia. Penyalahgunaan deepfake yang kian masif dinilai semakin meresahkan masyarakat. Kemkomdigi mengimbau publik untuk segera melaporkan temuan konten serupa melalui saluran resmi guna mempercepat proses penindakan.
