Platform media sosial X milik Elon Musk membatasi akses alat pembuatan gambar Grok AI hanya bagi pengguna berbayar mulai Jumat (9/1/2026). Langkah ini diambil di tengah meningkatnya tekanan internasional terkait penyalahgunaan chatbot tersebut untuk memproduksi ribuan gambar seksual tanpa persetujuan, termasuk terhadap perempuan dan anak-anak.
Kebijakan ini muncul setelah Keir Starmer secara terbuka mengancam akan memblokir X di Inggris. Starmer mengecam keras maraknya konten tersebut, menyebutnya sebagai sesuatu yang “memalukan” dan “menjijikkan”. Kantor Perdana Menteri di Downing Street menilai langkah pembatasan berbayar itu tidak menyentuh akar persoalan dan justru “menghina para korban”.
“Pendekatan ini pada dasarnya hanya memindahkan fitur AI yang memungkinkan pembuatan gambar ilegal ke layanan premium,” demikian pernyataan resmi Downing Street.
Penyalahgunaan Masif Picu Sorotan Regulator
Skala penyalahgunaan Grok AI menjadi pemicu utama reaksi keras pemerintah dan kelompok perlindungan anak. Penelitian investigator deepfake Genevieve Oh mengungkapkan bahwa Grok mampu menghasilkan sekitar 6.700 gambar seksual sugestif atau eksplisit per jam selama periode 24 jam pada 5–6 Januari. Angka ini jauh melampaui gabungan lima situs deepfake terbesar lainnya, yang rata-rata hanya memproduksi 79 gambar per jam pada periode yang sama.
Lembaga amal Inggris Internet Watch Foundation juga mengonfirmasi temuan gambar yang dikategorikan sebagai materi kriminal, termasuk visualisasi seksual anak berusia 11 hingga 13 tahun. Para pengguna forum dark web mengklaim gambar tersebut dibuat menggunakan Grok. Berdasarkan hukum Inggris, konten tersebut masuk dalam Kategori C, yang tetap tergolong pelanggaran serius.
Celah Fitur Jadi Sasaran Eksploitasi
Para peneliti menyoroti fitur Grok yang diluncurkan pada akhir Desember 2025, yang memungkinkan chatbot tersebut mengedit gambar publik apa pun yang diunggah di X. Fitur ini kerap disalahgunakan dengan perintah untuk mengubah penampilan subjek—mulai dari memakaikan bikini hingga “melepas pakaian”—tanpa persetujuan orang yang ada di dalam gambar.
Tekanan kini terus meningkat agar X tidak sekadar membatasi akses, tetapi melakukan pengamanan teknis yang lebih ketat serta bertanggung jawab atas dampak sosial dari teknologi AI yang mereka kembangkan.
