Balienews.com – Penyalahgunaan chatbot Grok AI di platform X menjadi sorotan global setelah banyak pengguna memanfaatkannya untuk merekayasa foto orang lain tanpa izin, termasuk mengubahnya menjadi konten tidak senonoh.
Fenomena ini ramai diperbincangkan sejak akhir Desember 2025 dan memicu kecaman dari pemilik X, Elon Musk, serta intervensi pemerintah sejumlah negara.
Grok AI Disalahgunakan untuk Konten Ilegal
Isu ini mencuat setelah pengguna X di berbagai negara, termasuk Indonesia, mengeluhkan maraknya foto rekayasa berbasis AI yang dihasilkan Grok. Sasaran penyalahgunaan tidak terbatas pada figur publik, tetapi juga pengguna biasa.
Lebih mengkhawatirkan, beberapa laporan menyebut Grok diminta mengedit foto gadis di bawah umur dengan prompt yang tidak pantas. Praktik ini dinilai melanggar hukum dan etika, serta berpotensi masuk kategori Child Sexual Abuse Material (CSAM).
Laporan Media Asing Ungkap Konten Ekstrem
Menurut laporan Futurism, sebagian pengguna bahkan memanfaatkan Grok untuk membuat gambar rekayasa yang menampilkan perempuan seolah-olah dilecehkan, dipermalukan, disakiti, hingga dibunuh. Prompt yang digunakan disebut sangat detail dan eksplisit.
Sebagian besar target konten tersebut adalah model platform daring dan pekerja seks. Grok AI pun dinilai berpotensi menjadi generator pornografi berbasis foto orang asli tanpa izin, karena terintegrasi langsung dengan platform X yang memiliki jangkauan luas.
Elon Musk dan X Ancam Sanksi Tegas
Menanggapi hal ini, Elon Musk menegaskan bahwa penyalahgunaan Grok AI tidak akan ditoleransi.
“Siapa pun yang menggunakan Grok untuk membuat konten ilegal akan menghadapi konsekuensi yang sama sebagaimana mereka mengunggah konten ilegal,” tulis Musk melalui akun @elonmusk.
Pernyataan serupa juga disampaikan akun resmi keamanan platform X, @Safety. Tim X menyatakan akan menghapus konten ilegal, menangguhkan akun secara permanen, dan bekerja sama dengan aparat penegak hukum jika diperlukan.
Pemerintah India Beri Ultimatum ke X
Pemerintah India melalui Kementerian Teknologi dan Informasi memerintahkan X untuk segera membatasi Grok agar tidak menghasilkan konten pornografi, vulgar, eksplisit, pedofilia, dan konten terlarang lainnya.
X diberi waktu 72 jam untuk merespons. Jika tidak, platform tersebut terancam kehilangan perlindungan hukum safe harbor, yakni perlindungan dari tanggung jawab hukum selama mematuhi regulasi yang berlaku, sebagaimana dirangkum dari TechCrunch.
Perancis dan Malaysia Ikut Bertindak
Di Eropa, otoritas Perancis juga mengambil langkah serupa. Kantor kejaksaan Paris menyelidiki maraknya deepfake bermuatan seksual di X. Tiga menteri Perancis dilaporkan telah melaporkan konten ilegal ke kejaksaan dan lembaga pengawasan digital pemerintah, menurut laporan Politico.
Sementara itu, Malaysia melalui Malaysian Communication and Multimedia Commission (MCMC) menyatakan akan menyelidiki dugaan pelanggaran undang-undang komunikasi dan multimedia (CMA). MCMC menyoroti manipulasi digital gambar perempuan dan anak di bawah umur yang dinilai sangat ofensif dan berbahaya.
Tantangan Etika dan Regulasi AI
Kasus ini kembali menegaskan tantangan besar dalam pengembangan dan penggunaan kecerdasan buatan. Tanpa pengawasan ketat, AI berpotensi disalahgunakan dan melanggar hak privasi serta keselamatan individu.
Pengguna internet diimbau lebih bijak, sementara platform digital didorong memperkuat sistem keamanan agar teknologi AI tidak menjadi alat kejahatan digital. (BEM)
