HOLOPIS.COM, JAKARTA – Pemerintah terutama Kementerian Komunikasi dan Digital (Komdigi) didesak bisa bersikap tegas terkait kecerdasan buatan (AI) Grok di media sosial platform X. AI Grok dinilai berbahaya karena memproduksi konten pornografi.
Anggota Komisi I DPR RI Syamsu Rizal menilai kemampuan Grok AI yang bisa memanipulasi gambar seseorang hingga jadi konten asusila sebagai ancaman serius. Bagi dia, keberadaan Grok AI sangat mengkhawatirkan.
Pun, ia menyoroti Grok AI juga belum memiliki sistem moderasi konten yang memadai untuk mencegah penyalahgunaan tersebut.
Syamsu menyebut Grok AI di platform X sering disalahgunakan untuk mengubah foto atau gambar seseorang jadi konten asusila. “Dengan permintaan yang spesifik, Grok AI dapat menuruti instruksi tersebut. Ini jelas berbahaya,” kata Syamsu di Jakarta, Kamis, (8/1/2026).
Dia mengingatkan penyalahgunaan kecerdasan buatan tanpa pengawasan yang ketat bisa berdampak luas. Pasalnya, bukan hanya merugikan individu yang jadi korban. Tapi, dampak itu jug bisa merusak tatanan sosial dan moral masyarakat.
“Jika Grok AI dan platform X tak mampu mengendalikan sistemnya dan tetap membiarkan produksi serta penyebaran konten pornografi, maka Komdigi harus bersikap tegas dengan memblokirnya,” jelas Syamsu.
Menurut dia, negara harus hadir dengan memiliki kebijakan yang bisa melindungi warganya dari dampak negatif teknologi digital. Hal itu terutama yang berkaitan dengan eksploitasi, pornografi, dan pelanggaran privasi.
Lebih lanjut, Syamsu menuturkan jika kekeliruan itu dibiarkan maka bakal jadi preseden buruk bagi ekosistem digital nasional.
“Langkah tegas ini penting karena jika dibiarkan, penggunaan AI yang tidak bertanggung jawab akan sangat membahayakan dan merusak moral bangsa,” ujar Syamsu.
Sebelumnya, Kementerian Komdigi juga sudah buka suara terkait penyalahguanan Grok AI pada platform X yang dipakai untuk memproduksi dan menyebarkan konten asusila. Hal itu termasuk manipulasi foto pribadi yang bersifat sensitif tanpa persetujuan pemiliknya.
Direktur Jenderal Pengawasan Ruang Digital Kemkomdigi Alexander Sabar menjelaskan dari hasil penelusuran awal diketahui Grok AI belum memiliki pengaturan yang eksplisit. Pengaturan itu penting untuk mencegah produksi serta distribusi konten pornografi berbasis foto nyata warga Indonesia.
Menurut dia, kondisi itu berpotensi melanggar hak privasi dan hak atas citra diri (right to one’s image). Potensi pelanggaran itu khususnya saat foto seseorang dimanipulasi atau disebarluaskan tanpa persetujuan yang sah.
“Temuan awal menunjukkan belum adanya pengaturan spesifik dalam Grok AI untuk mencegah pemanfaatan teknologi ini dalam pembuatan dan penyebaran konten pornografi berbasis foto pribadi,” ujar Alexander Sabar, Rabu (7/1/2026).
