HOLOPIS.COM, JAKARTA – Kementerian Komunikasi dan Digital (Kemkomdigi) menindaklanjuti dugaan penyalahgunaan fitur kecerdasan buatan Grok AI di platform X yang diduga digunakan untuk membuat dan menyebarkan konten pornografi, termasuk manipulasi foto pribadi tanpa izin pemiliknya.
Direktur Jenderal Pengawasan Ruang Digital Kemkomdigi, Alexander Sabar, mengatakan hasil penelusuran awal menunjukkan Grok AI belum memiliki pengamanan yang jelas dan memadai untuk mencegah produksi serta distribusi konten pornografi berbasis foto asli warga Indonesia. Kondisi ini dinilai berpotensi melanggar hak privasi dan hak atas citra diri seseorang.
“Dari hasil temuan sementara, belum terdapat pengaturan khusus yang efektif dalam Grok AI untuk mencegah pembuatan dan penyebaran konten pornografi berbasis foto pribadi. Ini berisiko menimbulkan pelanggaran serius terhadap privasi dan hak citra diri warga,” kata Alexander sebagaimana yang dikutip Holopis.com dalam siaran pers, Rabu (7/1/2026).
Kemkomdigi menilai praktik manipulasi digital foto pribadi, termasuk deepfake asusila, tidak hanya menyangkut pelanggaran norma kesusilaan.
Tindakan tersebut juga dianggap sebagai perampasan kendali individu atas identitas visual yang dapat berdampak pada kondisi psikologis, hubungan sosial, hingga reputasi korban.
“Setiap PSE wajib memastikan teknologi yang disediakan tidak dimanfaatkan untuk pelanggaran privasi, eksploitasi seksual, atau perusakan martabat seseorang,” tegas Alexander.
Kemkomdigi juga mengingatkan bahwa seluruh PSE yang beroperasi di Indonesia wajib mematuhi peraturan perundang-undangan nasional. Jika ditemukan pelanggaran atau ketidakpatuhan, Kemkomdigi berwenang menjatuhkan sanksi administratif, termasuk pemutusan akses terhadap layanan Grok AI maupun platform X.
Selain itu, Kemkomdigi menegaskan bahwa penyedia layanan kecerdasan buatan dan pengguna yang terbukti memproduksi atau menyebarkan konten pornografi serta manipulasi citra pribadi tanpa hak dapat dikenakan sanksi administratif maupun pidana.
Alexander menambahkan, masyarakat yang menjadi korban manipulasi foto, deepfake asusila, atau pelanggaran hak atas citra diri dapat menempuh jalur hukum sesuai ketentuan yang berlaku, termasuk melapor kepada aparat penegak hukum dan menyampaikan pengaduan ke Kemkomdigi.
“Kami mengimbau seluruh pihak agar menggunakan teknologi kecerdasan buatan secara bertanggung jawab. Ruang digital bukan ruang bebas hukum, privasi dan hak atas citra diri setiap warga harus dihormati dan dilindungi,” pungkasnya.
