23 hours ago
1
Jakarta, CNBC Indonesia - Kementerian Komunikasi dan Digital (Kemkomdigi) buka suara soal chatbot Grok AI milik X yang digunakan untuk memproduksi dan menyebarkan konten asusila pengguna di dalam platform. Pihak kementerian tengah menindaklajuti terkait masalah ini.
Berdasarkan penelusuran awal, Direktur Jenderal Pengawasan Ruang Digital, Alexander Sabar mengatakan Grok AI belum memiliki pengaturan mencegah produksi dan distribusi konten pornografi berbasis foto nyata warga Indonesia secara eksplisit serta memadai. Menurutnya, hal ini berpotensi melanggar hak privasi dan citra diri, khususnya saat foto seseorang dimanipulasi atau disebarluaskan tanpa persetujuan.
"Temuan awal menunjukkan belum adanya pengaturan spesifik dalam Grok AI untuk mencegah pemanfaatan teknologi ini dalam pembuatan dan penyebaran konten pornografi berbasis foto pribadi. Hal ini berisiko menimbulkan pelanggaran serius terhadap privasi dan hak citra diri warga," ujar Alexander dikutip dari laman resmi Komdigi, Rabu (7/1/2026).
Masalah manipulasi digital pada foto pribadi bukan hanya persoalan kesusilaan. Namun ini menjadi bentuk perampasan kendali individu pada identitas visual yang bisa menimbulkan kerugian psikologis, sosial dan reputasi.
Seluruh Penyelenggara Sistem Elektronik (PSE) yang beroperasi di Indonesia memiliki kewajiban untuk patuh akan peraturan perundang-undangan di Indonesia. Jika ditemukan ketidakpatuhan atau sikap kooperatif, Komdigi dapat menjatuhkan sanksi administratif hingga pemutusan akses layanan Grok AI dan platform X.
Penyedia layanan AI atau pengguna yang memproduksi dan atau menyebarkan konten pornografi atau manipulasi citra pribadi tanpa hak bisa dikenakan sanksi adminitratif dan atau pidana sesuai ketentuan hukum yang berlaku.
Sejak diberlakukannya UU No 1 Tahun 2023 tentang Kitab UU Hukum Pidana (KUHP) 2 Januari 2026, konten pornografi sendiri diatur antara lain dalam Pasal 172 dan 407. Pada pasal 172 disebutkan pornografi sebagai media yang memuat kecabulan atau eksploitasi seksual melanggar normal kesusilaan.
Sementara pada pasal 407, diatur mengenai ancaman pidana. Yakni paling singkat enam bulan dan paling lama 10 tahun atau pidana denda sesuai ketentuan.
Korban manipulasi foto, deepfake asusila, atau pelanggaran hak citra diri bisa menempuh upaya hukum. Seperti melakukan pelaporan pada aparat penegak hukum dan pengaduan pada Kemkomdigi.
"Kami mengimbau seluruh pihak untuk menggunakan teknologi akal imitasi secara bertanggung jawab. Ruang digital bukan ruang tanpa hukum, ada privasi dan hak atas citra diri setiap warga yang harus dihormati dan dilindungi," ujar Alexander.
Sebelumnya lini masa X dipenuhi banyak permintaan pengguna pada Grok untuk mengganti foto seseorang, yakni perempuan dan anak-anak, yang menjurus pada asusila dan pornografi. Banyak pengguna lain yang protes dengan hasil foto tersebut dan tersebarnya tanpa persetujuan pemilik gambar.
Masalah ini menyebar hampir di banyak negara, termasuk Indonesia, Malaysia, Perancis, Inggris, hingga India. Sejumlah pemerintah juga sudah mulai melakukan penyidikan pada Grok dan media sosial X.
New
(dem/dem)
[Gambas:Video CNBC]
