Pemerintah Indonesia Blokir Sementara Grok AI Imbas Maraknya Deepfake Pornografi
Pemerintah Indonesia melalui Kementerian Komunikasi dan Digital (Komdigi) resmi memutus akses sementara layanan chatbot berbasis kecerdasan buatan (AI) Grok, yang dikembangkan oleh platform X (sebelumnya Twitter). Kebijakan tersebut diambil menyusul maraknya penyalahgunaan Grok untuk memproduksi konten deepfake bermuatan pornografi yang dinilai membahayakan masyarakat.
Pemblokiran akses Grok mulai diberlakukan pada Sabtu, 10 Januari 2026. Pemerintah menilai teknologi tersebut telah disalahgunakan untuk menghasilkan konten asusila palsu, dengan korban yang kerap menyasar perempuan dan anak-anak, sehingga menimbulkan ancaman serius di ruang digital.
Menteri Komunikasi dan Digital, Meutya Hafid, menegaskan bahwa keputusan tersebut merupakan langkah perlindungan negara terhadap warga dari dampak negatif pemanfaatan teknologi kecerdasan artifisial yang tidak bertanggung jawab.
“Demi melindungi perempuan, anak, dan seluruh masyarakat dari risiko konten pornografi palsu yang dihasilkan menggunakan teknologi kecerdasan artifisial, Pemerintah melalui Kementerian Komunikasi dan Digital melakukan pemutusan akses sementara terhadap aplikasi Grok,” ujar Meutya dalam pernyataan resminya di Jakarta, Sabtu (10/1/2026).
Pemerintah menilai praktik deepfake seksual nonkonsensual bukan sekadar pelanggaran norma kesusilaan, melainkan pelanggaran serius terhadap hak asasi manusia. Manipulasi visual tanpa persetujuan dianggap merusak martabat individu, mengancam keamanan digital, serta menghilangkan hak seseorang atas identitas visualnya.
Selain dampak reputasi, pemerintah juga menyoroti risiko trauma psikologis yang dialami korban serta potensi pelecehan lanjutan di ruang publik. Atas dasar itu, Komdigi turut memanggil pihak Platform X untuk memberikan klarifikasi terkait dampak dan mekanisme pengendalian fitur Grok di Indonesia.
Langkah pemblokiran ini mengacu pada Peraturan Menteri Kominfo Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik (PSE) Lingkup Privat. Dalam Pasal 9, setiap PSE diwajibkan memastikan sistem elektroniknya tidak memuat maupun memfasilitasi penyebaran konten yang dilarang oleh peraturan perundang-undangan.
Sementara itu, penegakan hukum juga diarahkan kepada pengguna. Direktur Tindak Pidana Siber Bareskrim Polri Brigjen Himawan Bayu Aji menegaskan bahwa manipulasi data elektronik tanpa persetujuan pemiliknya merupakan tindak pidana. “Selama dapat dibuktikan bahwa itu adalah manipulasi data elektronik, maka perbuatan tersebut bisa dipidana,” ujarnya, Rabu (7/1/2026).
Sebelumnya, Grok menuai sorotan internasional akibat kemampuannya menghasilkan konten pornografi secara instan. Meski pihak X mengklaim telah membatasi fitur edit gambar hanya untuk pelanggan berbayar X Premium, pemerintah menilai pembatasan tersebut belum efektif karena pengguna gratis masih dapat mengakses fitur serupa melalui berbagai jalur lain.
