Pencarian Taylor Swift Diblokir X, Setelah Deepfake AI Berbau Pornografi Beredar

Platform media sosial X telah memblokir pencarian untuk Taylor Swift setelah gambar AI eksplisit dari penyanyi tersebut mulai beredar di situs tersebut.

Dalam pernyataan kepada BBC, Kepala Operasional Bisnis X, Joe Benarroch, mengatakan bahwa ini adalah “langkah sementara” untuk memprioritaskan keamanan. Ketika mencari Swift di situs tersebut, muncul pesan yang mengatakan: “Ada yang salah. Coba muat ulang.”

Gambar palsu berbau pornografi dari penyanyi tersebut muncul di situs tersebut awal pekan ini. Beberapa di antaranya menjadi viral dan dilihat jutaan kali, memicu kekhawatiran dari pejabat AS dan penggemar penyanyi tersebut.

Foto tersebut merupakan gambar yang telah direkayasa menggunakan kecerdasan buatan (artificial intelligence/ AI) atau disebut deepfake. Pos dan akun yang membagikan gambar palsu itu dicatat oleh penggemarnya, yang mengisi platform tersebut dengan gambar dan video nyata darinya, dengan menggunakan kata-kata “lindungi Taylor Swift”.

Foto-foto itu mendorong X, sebelumnya Twitter, untuk merilis pernyataan pada Jumat, mengatakan bahwa memposting konten telanjang tanpa persetujuan di platform ini “dilarang dengan tegas”.

“Kami memiliki kebijakan nol toleransi terhadap konten seperti itu,” kata pernyataan tersebut. “Tim kami aktif menghapus semua gambar yang diidentifikasi dan mengambil tindakan yang sesuai terhadap akun yang bertanggung jawab atas penyebarannya.”

Belum jelas kapan X mulai memblokir pencarian untuk Swift di situs tersebut, atau apakah situs ini pernah memblokir pencarian untuk tokoh atau istilah umum lainnya di masa lalu.

Dalam surat elektroniknya kepada BBC, Mr. Benarroch mengatakan bahwa tindakan ini dilakukan “dengan sangat berhati-hati karena kami memprioritaskan keamanan pada masalah ini”. Masalah ini menarik perhatian Gedung Putih, yang pada Jumat menyebut penyebaran foto AI sebagai “mengkhawatirkan”.

“Kita tahu bahwa penegakan hukum yang longgar secara tidak proporsional memengaruhi perempuan dan juga memengaruhi gadis-gadis, sayangnya, yang merupakan target utama,” kata juru bicara Gedung Putih, Karine Jean-Pierre, dalam sebuah konferensi pers.

Dia menambahkan bahwa seharusnya ada undang-undang untuk mengatasi penyalahgunaan teknologi AI di media sosial, dan bahwa platform-platform tersebut juga harus mengambil langkah-langkah mereka sendiri untuk melarang konten semacam itu di situs mereka.

“Kami percaya mereka memiliki peran penting dalam menegakkan aturan mereka sendiri untuk mencegah penyebaran informasi palsu dan gambar pribadi yang tidak diinginkan dari orang nyata,” kata Ms. Jean-Pierre.

Politisi AS juga telah mendesak adanya undang-undang baru untuk menjadikan ilegal pembuatan gambar deepfake.

Deepfake menggunakan kecerdasan buatan untuk membuat video seseorang dengan memanipulasi wajah atau tubuh mereka. Sebuah studi pada tahun 2023 menemukan bahwa telah terjadi peningkatan 550% dalam pembuatan gambar yang dimanipulasi sejak tahun 2019, didorong oleh munculnya AI.

Saat ini tidak ada undang-undang federal yang melarang berbagi atau membuat gambar deepfake, meskipun telah ada langkah-langkah di tingkat negara bagian untuk mengatasi masalah tersebut.

Di Inggris, berbagi pornografi deepfake menjadi ilegal sebagai bagian dari Undang-Undang Keselamatan Online pada tahun 2023.