JAKARTA – Chatbot AI Grok milik Elon Musk menghadapi penyelidikan di berbagai benua setelah peneliti mengonfirmasi bahwa alat tersebut telah digunakan untuk menghasilkan materi pelecehan seksual anak yang ilegal, meningkatkan apa yang awalnya merupakan kontroversi terkait deepfake tanpa persetujuan terhadap perempuan menjadi krisis internasional yang melibatkan konten kriminal.
Internet Watch Foundation, sebuah organisasi Inggris yang melacak eksploitasi anak secara online, mengumumkan pada hari Rabu bahwa mereka menemukan “gambar kriminal” di forum dark web yang menampilkan anak perempuan berusia 11 hingga 13 tahun yang diklaim pengguna dibuat menggunakan Grok. Gambar-gambar tersebut akan diklasifikasikan sebagai Kategori C menurut hukum Inggris (klasifikasi paling parah ketiga) meskipun yayasan tersebut mencatat setidaknya satu pengguna kemudian menggunakan konten yang dihasilkan Grok sebagai dasar untuk membuat materi Kategori A yang lebih ekstrem menggunakan alat AI lain.
Ribuan Gambar Dihasilkan Setiap Jam
Pengungkapan ini muncul di tengah meningkatnya bukti penyalahgunaan kemampuan pengeditan gambar Grok secara meluas. Peneliti Genevieve Oh melakukan analisis selama 24 jam dan menemukan bahwa antara 5 dan 6 Januari, Grok menghasilkan sekitar 6.700 gambar yang bersifat seksual atau “nudifying” (mengekspos tubuh) per jam, menurut laporan dari Bloomberg dan Financial Post. Analisis terpisah oleh AI Forensics menemukan bahwa 53% gambar yang dihasilkan menampilkan individu dengan pakaian minim, dengan 81% digambarkan sebagai perempuan dan 2% tampak berusia di bawah 18 tahun.
Krisis ini dimulai pada akhir Desember setelah X meluncurkan fitur pengeditan gambar yang diperbarui untuk Grok yang memungkinkan pengguna menandai chatbot tersebut di postingan publik dan meminta perubahan pada foto. Pengguna dengan cepat menemukan bahwa mereka dapat meminta Grok untuk “menanggalkan pakaian secara digital” pada perempuan atau menempatkan mereka dalam pose yang bersifat seksual, dengan gambar yang telah diubah secara otomatis diposting ke X di mana gambar-gambar tersebut dapat beredar luas.
Respons Regulasi Internasional
Regulator di seluruh dunia telah merespons dengan kecepatan yang tidak biasa. Juru bicara Perdana Menteri Inggris Keir Starmer menyebut gambar-gambar tersebut “menjijikkan dan tidak dapat ditoleransi” dan mengatakan “semua opsi ada di meja,” termasuk kemungkinan boikot pemerintah terhadap X, sambil mendukung regulator media Ofcom untuk mengambil tindakan penegakan hukum. Komisi Eropa pada hari Kamis memerintahkan X untuk menyimpan semua dokumen internal terkait Grok hingga akhir tahun 2026, memperpanjang perintah pemeliharaan yang dikeluarkan tahun lalu.
Kementerian Elektronik dan Teknologi Informasi India mengeluarkan ultimatum 72 jam pada 2 Januari yang menuntut tindakan segera, memperingatkan bahwa kegagalan mematuhi dapat mengakibatkan X kehilangan perlindungan hukum safe harbor. Meskipun X menyerahkan tanggapan pada 7 Januari, pemerintah India menyatakan ketidakpuasan bahwa perusahaan tersebut berfokus pada menghukum pengguna setelah konten dibuat daripada mencegah Grok menghasilkan materi semacam itu sejak awal. Prancis telah merujuk masalah ini kepada jaksa untuk penyelidikan pidana, sementara regulator komunikasi Malaysia mengumumkan akan memanggil perwakilan perusahaan untuk diinterogasi.
Pendanaan di Tengah Kontroversi
Investigasi tersebut muncul bersamaan dengan pengumuman xAI milik Musk pada hari Selasa bahwa perusahaan berhasil menggalang dana $20 miliar dalam putaran pendanaan Seri E, melampaui target awal sebesar $15 miliar. Nvidia berpartisipasi sebagai investor strategis, dengan laporan yang mengindikasikan bahwa produsen chip tersebut berencana menginvestasikan hingga $2 miliar. Pendukung lainnya termasuk Fidelity Management & Research Company, Qatar Investment Authority, dan Valor Equity Partners.
Musk sebagian besar mengalihkan tanggung jawab, dengan menyatakan pada hari Sabtu bahwa “siapa pun yang menggunakan Grok untuk membuat konten ilegal akan mengalami konsekuensi yang sama seperti jika mereka mengunggah konten ilegal”. Akun Safety X mengatakan bahwa platform tersebut mengambil tindakan terhadap konten ilegal dengan menghapusnya dan menangguhkan akun, tetapi berbagai laporan mengindikasikan bahwa pembuatan gambar yang bermasalah terus berlanjut dalam beberapa hari setelah pernyataan Musk.
