Balienews.com – Platform media sosial X resmi mengubah kebijakan fitur penyuntingan gambar pada chatbot kecerdasan buatan Grok, dengan melarang pengeditan foto orang yang mengenakan pakaian terbuka seperti bikini dan pakaian dalam.
Kebijakan ini diumumkan X melalui akun resmi @Safety, berlaku global, dan diterapkan sejak Kamis (15/1) sebagai respons atas kritik terkait dugaan penyalahgunaan konten visual berbasis AI.
Pembatasan Berlaku untuk Semua Pengguna
Mengutip laporan Engadget, kebijakan baru ini berlaku bagi seluruh pengguna Grok, baik akun berbayar maupun gratis.
Namun, X juga mengumumkan bahwa fitur pembuatan gambar kini hanya dapat diakses oleh pengguna berlangganan, sehingga pengguna layanan gratis tidak lagi dapat membuat gambar melalui chatbot AI tersebut.
Respons atas Dugaan Konten Seksual dan Eksploitasi Anak
Langkah pembatasan ini diambil menyusul kritik dan kekhawatiran publik terhadap X dan Grok dalam beberapa pekan terakhir.
Sejumlah pihak menilai chatbot AI tersebut berpotensi menghasilkan gambar bernuansa seksual tanpa persetujuan, termasuk konten yang diduga melibatkan anak-anak.
X menegaskan menerapkan kebijakan tanpa toleransi terhadap eksploitasi anak, serta secara aktif menghapus konten pelanggaran prioritas tinggi, seperti materi pelecehan seksual anak dan konten seksual tanpa persetujuan.
Penyelidikan California terhadap xAI
Pengumuman pembatasan ini muncul hanya beberapa jam setelah Negara Bagian California membuka penyelidikan terhadap xAI dan Grok terkait penanganan konten AI bermuatan pornografi dan eksploitasi anak.
Kantor Jaksa Agung California mengungkapkan hasil analisis awal yang menunjukkan sekitar 50 persen dari 20.000 gambar yang dihasilkan xAI pada periode Natal 2025 hingga Tahun Baru 2026 menampilkan individu dengan pakaian minim. Sebagian di antaranya bahkan menyerupai anak-anak.
Pernyataan Elon Musk
CEO xAI Elon Musk sebelumnya menyatakan tidak mengetahui adanya gambar anak tidak senonoh yang dihasilkan Grok.
Ia menambahkan, ketika opsi pembatasan konten tidak aman diaktifkan, Grok masih diperbolehkan menampilkan ketelanjangan tubuh bagian atas karakter manusia dewasa fiktif, serupa dengan standar konten film berklasifikasi dewasa di Apple TV.
Musk menegaskan bahwa kebijakan Grok tidak berlaku seragam secara global, melainkan akan disesuaikan dengan peraturan hukum di masing-masing negara.
Sejumlah Negara Ambil Langkah Pembatasan
Sejumlah negara telah mengambil langkah tegas terhadap Grok. Malaysia dan Indonesia memblokir chatbot tersebut dengan alasan keamanan dan kekhawatiran terhadap konten seksual buatan AI.
Sementara itu, di Inggris, otoritas komunikasi Ofcom juga membuka penyelidikan formal terhadap xAI dan Grok. Pemerintah Inggris menyatakan siap mendukung pemblokiran apabila ditemukan pelanggaran serius.
Perlindungan Pengguna Jadi Sorotan
Kebijakan baru ini menegaskan meningkatnya perhatian global terhadap etika, keamanan, dan regulasi AI, khususnya terkait perlindungan anak dan privasi individu di ruang digital. (BEM)
