Gunakan Grok AI Untuk Konten Asusila Bisa Dijerat Pidana

Jakarta, Bindo.id – Kementerian Komunikasi dan Digital (Kemkomdigi) ingatkan ada ancaman pidana atas penyalahgunaan fitur kecerdasan buatan Grok AI pada konten asusila di platform X 

Kemkomdigi mengatakan penyedia layanan kecerdasan buatan ataupun pengguna yang telah terbukti memproduksi dan atau menyebarkan konten pornografi atau manipulasi citra pribadi tanpa hak bisa diberikan sanksi administratif dan atau pidana sesuai dengan ketentuan hukum yang berlaku.

“Masyarakat yang menjadi korban manipulasi foto, deepfake asusila, atau pelanggaran hak citra diri dapat menempuh upaya hukum,” ujar Direktur Jenderal Pengawasan Ruang Digital Kemenkomdigi, Alexander Sabar pada keterangan pers, Rabu (7/1/2026).

Upaya hukum tersebut bisa melalui mekanisme yang tersedia pada peraturan perundang-undangan, termasuk pelaporan pada aparat penegak hukum serta pengaduan ke Kemkomdigi.

Sejak diberlakukan Undang-Undang Nomor 1 Tahun 2023 tentang Kitab Undang-Undang Hukum Pidana (KUHP) tanggal 2 Januari 2026, konten pornografi diatur di Pasal 172 dan Pasal 407.

Pasal 172 mendefinisikan pornografi sebagai media yang memuat tentang kecabulan atau eksploitasi seksual yang dianggap telah melanggar norma kesusilaan.

Sedangkan Pasal 407 mengatur tentang ancaman pidana penjara paling singkat 6 (enam) bulan serta paling lama 10 (sepuluh) tahun atau pidana denda sesuai dengan ketentuan.

“Kami mengimbau seluruh pihak untuk menggunakan teknologi akal imitasi secara bertanggung jawab. Ruang digital bukan ruang tanpa hukum, ada privasi dan hak atas citra diri setiap warga yang harus dihormati dan dilindungi,” tutur Alexander.

Kemkomdigi saat ini sedang melakukan pendalaman tentang dugaan penyalahgunaan fitur kecerdasan buatan Grok AI di platform X yang dimanfaatkan untuk memproduksi serta menyebarkan konten asusila.

Beredar di platform X, diduga Grok AI dipakai untuk konten asusila termasuk melakukan manipulasi foto pribadi yang sifatnys sensitif tanpa persetujuan pemiliknya.

“Hasil penelusuran awal menunjukkan Grok AI belum memiliki pengaturan yang eksplisit dan memadai untuk mencegah produksi serta distribusi konten pornografi berbasis foto nyata warga Indonesia,” tutur Alexander.

Kondisi tersebut berpotensi melanggar hak privasi maupun hak atas citra diri (right to one’s image), terutama saat foto seseorang dimanipulasi atau disebarluaskan tanpa persetujuan yang sah.

Hal tersebut berisiko menyebabkan pelanggaran serius pada privasi serta hak citra diri warga.

Ikuti berita terkini dari BINDO di
YouTube, dan Dailymotion