Balienews.com – Indonesia dan Malaysia menjadi dua negara pertama di dunia yang memblokir akses ke Grok, chatbot kecerdasan buatan (AI) milik Elon Musk, setelah teknologi tersebut disalahgunakan untuk membuat gambar seksual eksplisit tanpa persetujuan, termasuk yang melibatkan perempuan dan anak-anak.
Pemblokiran dilakukan pada akhir pekan lalu sebagai langkah perlindungan hak asasi manusia dan keselamatan digital.
Pemblokiran Grok di Indonesia dan Malaysia
Pemerintah Indonesia secara resmi memblokir sementara akses Grok pada Sabtu (10/1). Langkah ini disusul Malaysia sehari kemudian, Minggu (11/1), melalui Komisi Komunikasi dan Multimedia Malaysia (MCMC).
Grok merupakan chatbot AI yang terintegrasi dengan platform X (sebelumnya Twitter). Dalam beberapa pekan terakhir, Grok menuai kecaman global karena digunakan untuk menghasilkan gambar perempuan dalam pose seksual eksplisit, sebagian bahkan menampilkan anak-anak, tanpa persetujuan pihak yang digambarkan.
Pemerintah Nilai Deepfake Seksual Langgar HAM
Menteri Komunikasi dan Digital Indonesia, Meutya Hafid, menegaskan bahwa praktik deepfake seksual tanpa izin merupakan pelanggaran serius.
“Pemerintah melihat deepfake seksual tanpa persetujuan sebagai pelanggaran serius terhadap hak asasi manusia, martabat, dan keselamatan warga di ruang digital,” ujar Meutya, Sabtu (10/1).
Pernyataan tersebut menegaskan komitmen Indonesia dalam melindungi warga dari penyalahgunaan teknologi AI yang berpotensi merugikan secara sosial dan psikologis.
Malaysia: Grok Dinilai Berulang Kali Langgar Hukum
Senada dengan Indonesia, MCMC menyebut pemblokiran dilakukan karena Grok berulang kali digunakan untuk menghasilkan konten cabul dan sangat ofensif.
Dalam pernyataan resminya, MCMC menyebut Grok memproduksi “gambar cabul, seksual eksplisit, tidak senonoh, serta konten manipulatif tanpa persetujuan, termasuk yang melibatkan perempuan dan anak-anak.”
MCMC juga mengonfirmasi telah menghubungi Elon Musk melalui X dan perusahaan xAI, pengembang Grok, untuk meminta penerapan perlindungan yang efektif. Namun, respons yang diterima dinilai tidak memadai.
Perlindungan Dinilai Belum Efektif
Menurut MCMC, pihak xAI hanya mengarahkan pada mekanisme pelaporan oleh pengguna, tanpa langkah pencegahan sistemik.
“Pendekatan tersebut tidak cukup untuk mencegah bahaya atau memastikan kepatuhan hukum,” tegas MCMC.
Oleh karena itu, Malaysia memastikan pemblokiran Grok akan tetap berlaku hingga ada sistem perlindungan yang benar-benar efektif diterapkan oleh pengembang.
Apa Itu Grok dan Mengapa Kontroversial?
Grok adalah chatbot AI yang diluncurkan Elon Musk pada 2023 dan menjadi pesaing langsung produk AI dari Google dan Microsoft. Awalnya, Grok dapat diakses gratis oleh pengguna X.
Kontroversi semakin menguat sejak peluncuran fitur Grok Imagine pada musim panas 2025. Fitur ini memungkinkan pembuatan gambar melalui AI, termasuk melalui “mode pedas” yang membuka peluang pembuatan konten dewasa.
Keluhan atas fitur tersebut datang dari berbagai wilayah, termasuk Uni Eropa, Inggris, India, dan Prancis. Meski xAI kemudian membatasi fitur pembuatan gambar hanya untuk pengguna X berbayar, kritik menyebut kebijakan itu belum menyentuh akar persoalan.
Regulasi AI Kian Mendesak
Kasus Grok kembali menyoroti tantangan global dalam mengatur kecerdasan buatan. Perkembangan teknologi AI dinilai jauh lebih cepat dibandingkan penyusunan regulasi, bahkan di beberapa negara aturan cenderung longgar atau dibatasi.
Indonesia dan Malaysia kini menjadi contoh awal negara yang mengambil langkah tegas terhadap penyalahgunaan AI di ruang digital.
Pemblokiran Grok menandai peringatan keras bagi pengembang teknologi AI agar lebih bertanggung jawab. Publik diharapkan tetap kritis dan melaporkan penyalahgunaan teknologi digital demi menciptakan ruang digital yang aman dan beretika. (BEM)
