Chatbot AI milik Elon Musk, Grok, telah mematikan fitur pembuatan gambarnya untuk pengguna yang tidak membayar menyusul reaksi keras atas penggunaannya untuk membuat deepfake seksual terhadap perempuan dan anak-anak.
Musk telah diancam dengan denda, dan beberapa negara baru-baru ini secara terbuka menentang alat tersebut karena menciptakan gambar seksual eksplisit.
Beberapa pengguna dilaporkan menggunakan Grok untuk membuat gambar perempuan dan anak-anak tanpa pakaian, terkadang menempatkan mereka dalam posisi seksual.
Membalas pengguna pada hari Jumat di platform media sosial Musk X, Grok memposting: “Pembuatan dan pengeditan gambar saat ini terbatas pada pelanggan yang membayar. Anda dapat berlangganan untuk membuka fitur-fitur ini.”
Tetap up to date dengan berita terbaru. Ikuti KT di Saluran WhatsApp.
Perubahan ini berarti banyak pengguna alat tersebut tidak dapat lagi membuat atau mengedit gambar menggunakan AI. Pelanggan yang membayar harus memberikan platform informasi kartu kredit dan detail pribadi mereka.
Komisi Eropa minggu ini mengatakan foto-foto perempuan dan anak-anak yang telanjang adalah melanggar hukum dan pada hari Kamis memerintahkan X untuk menyimpan semua dokumen dan data internal terkait Grok hingga akhir tahun 2026.
Perdana Menteri Inggris Keir Starmer mengatakan X “harus mengatasi hal ini” dan menyatakan bahwa ia meminta regulator komunikasi Ofcom “untuk mempertimbangkan semua opsi,” menurut laporan media. Dia menyebut gambar-gambar itu “melanggar hukum” dan mengatakan Inggris “tidak akan mentolerirnya.”
Prancis, Malaysia, dan India juga mengkritik platform Musk atas masalah ini.
“Siapa pun yang menggunakan Grok untuk membuat konten ilegal akan menanggung konsekuensi yang sama seperti jika mereka mengunggah konten ilegal,” tulis Musk di X pekan lalu sebagai tanggapan atas postingan tentang gambar eksplisit tersebut.
Akun “Keamanan” resmi X kemudian mengatakan bahwa mereka menangani konten ilegal di X “dengan menghapusnya, menangguhkan akun secara permanen, dan bekerja sama dengan pemerintah daerah dan penegak hukum jika diperlukan.”