Anggota Komisi I DPR RI Syamsu Rizal menyatakan dukungan penuh terhadap langkah tegas Kementerian Komunikasi dan Digital (Komdigi) yang mengancam memblokir platform X dan layanan Grok AI milik Elon Musk. Ancaman tersebut muncul menyusul maraknya penyalahgunaan fitur kecerdasan buatan Grok untuk memanipulasi foto seseorang menjadi konten pornografi tanpa persetujuan.
“Selama ini kita melihat Grok AI di platform X dimanfaatkan untuk mengubah foto atau gambar seseorang menjadi konten asusila. Dengan perintah yang spesifik, Grok AI dapat menuruti instruksi tersebut. Ini jelas berbahaya,” ujar Syamsu Rizal—yang akrab disapa Daeng Ical—Kamis (8/1/2026).
Ia menilai praktik tersebut tidak hanya melanggar etika dan privasi, tetapi juga berpotensi menimbulkan dampak sosial dan psikologis serius bagi korban. Karena itu, ia mendukung langkah Komdigi untuk menekan platform digital agar bertanggung jawab atas teknologi yang mereka operasikan.
Ancaman Sanksi hingga Pemutusan Akses
Direktur Jenderal Pengawasan Ruang Digital Komdigi Alexander Sabar mengungkapkan bahwa hasil penelusuran awal menunjukkan Grok AI belum memiliki pengamanan memadai untuk mencegah pembuatan dan penyebaran konten pornografi berbasis foto pribadi warga Indonesia.
“Temuan awal kami menunjukkan belum adanya pengaturan spesifik dalam Grok AI untuk mencegah pemanfaatan teknologi ini dalam pembuatan konten pornografi berbasis foto pribadi,” ujar Alexander dalam keterangan resminya, Rabu (7/1/2026).
Pemerintah menegaskan, apabila X dan Grok AI tidak kooperatif dalam memperbaiki sistem moderasi dan pengamanan, sanksi administratif hingga pemutusan akses layanan di Indonesia akan diberlakukan. Komdigi juga terus berkoordinasi dengan para Penyelenggara Sistem Elektronik (PSE) untuk memperkuat mekanisme moderasi konten dan mempercepat penanganan laporan pelanggaran.
Potensi Pidana Deepfake
Sikap tegas juga datang dari Bareskrim Polri. Direktur Tindak Pidana Siber Bareskrim Polri, Himawan Bayu Aji, menegaskan bahwa manipulasi foto menggunakan Grok AI dapat diproses secara pidana sebagai tindak kejahatan deepfake.
“Selama bisa dibuktikan bahwa itu merupakan manipulasi data elektronik, maka perbuatan tersebut dapat dipidana,” ujar Himawan di Jakarta Selatan, Rabu (7/1/2026).
Penindakan hukum ini merujuk pada Undang-Undang Nomor 1 Tahun 2023 tentang KUHP yang mulai berlaku sejak 2 Januari 2026, khususnya Pasal 172 terkait definisi pornografi dan Pasal 407 yang mengatur ancaman pidana penjara minimal enam bulan hingga maksimal sepuluh tahun.
Sorotan Global terhadap Grok AI
Indonesia bukan satu-satunya negara yang menyoroti penyalahgunaan Grok AI. Sejumlah negara seperti Prancis, India, Malaysia, dan Inggris juga tengah melakukan penyelidikan terkait penggunaan Grok AI untuk menghasilkan konten seksual eksplisit tanpa persetujuan.
Bahkan, pemerintah India dilaporkan telah memberikan ultimatum 72 jam kepada X untuk segera memperbaiki sistem moderasi Grok AI atau menghadapi sanksi lanjutan.
