MATASEMARANG.COM – Kementerian Komunikasi dan Digital (Kemkomdigi) menyoroti dugaan penyalahgunaan fitur kecerdasan buatan Grok AI di platform X yang digunakan untuk memproduksi dan menyebarkan konten asusila berbasis manipulasi foto pribadi.
Belakangan ini ramai di X orang-orang yang menggunakan Grok AI untuk menyunting foto milik orang lain.
Dengan prompt tertentu, Grok AI bisa mengubah foto orang yang menggunakan pakaian biasa untuk diubah menjadi pakaian yang minim, melakukan hal asusila dan lain sebagainya.
Direktur Jenderal Pengawasan Ruang Digital Alexander Sabar menegaskan bahwa temuan awal menunjukkan Grok AI belum memiliki pengaturan eksplisit untuk mencegah pembuatan maupun distribusi konten pornografi berbasis foto nyata warga Indonesia.
Kondisi ini dinilai berpotensi melanggar hak privasi dan hak atas citra diri seseorang.
“Manipulasi digital terhadap foto pribadi bukan sekadar persoalan kesusilaan, melainkan bentuk perampasan kendali individu atas identitas visualnya. Dampaknya bisa serius: kerugian psikologis, sosial, hingga reputasi,” ujar Alexander di Jakarta, Rabu 7 Januari 2026.
Kemkomdigi kini berkoordinasi dengan Penyelenggara Sistem Elektronik (PSE) untuk memperkuat sistem moderasi konten, mencegah pembuatan deepfake asusila, serta menyiapkan mekanisme penanganan cepat atas laporan pelanggaran privasi.
Alexander menegaskan, setiap PSE wajib memastikan teknologi yang mereka sediakan tidak menjadi sarana eksploitasi seksual maupun perusakan martabat seseorang.
Jika ditemukan ketidakpatuhan, Kemkomdigi dapat menjatuhkan sanksi administratif hingga pemutusan akses layanan Grok AI dan platform X.
