Pemblokiran sementara Grok menunjukkan konten ”deepfake” seksual nonkonsensual kian mudah diproduksi dan kerentanan digital Indonesia.

Oleh Abdullah Fikri Ashri

Maraknya penyalahgunaan Grok AI untuk manipulasi gambar pornografi membuat Pemerintah Indonesia memblokir sementara chatbot akal imitasi generatif platform X. Kebijakan ini menjadi alarm bahaya berkembangnya konten digital manipulatif atau deepfake kian mudah diproduksi menggunakan akal imitasi dan kerentanan publik menjadi korban.

Kementerian Komunikasi dan Digital (Kemenkomdigi) mengumumkan pemblokiran sementara akses publik ke Grok pada Sabtu (10/1/2026). Kebijakan itu terkait dengan layanan gambar Grok yang dapat memanipulasi gambar atau video secara seksual tanpa izin atau deepfake seksual nonkonsensual.

”Demi melindungi perempuan, anak, dan seluruh masyarakat dari risiko konten pornografi palsu yang dihasilkan menggunakan teknologi kecerdasan artifisial, pemerintah melalui Kementerian Komunikasi dan Digital melakukan pemutusan akses sementara terhadap aplikasi Grok,” ujar Menteri Komdigi Meutya Hafid melalui pernyataan resminya.

Pemerintah, katanya, memandang praktik deepfake seksual nonkonsensual sebagai pelanggaran serius terhadap hak asasi manusia, martabat, serta keamanan warga negara di ruang digital. Itu sebabnya, pemutusan sementara akses ke Grok itu sudah sesuai dengan aturan dan kewenangan Kemenkomdigi.

Regulasi itu adalah Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik Lingkup Privat. Dalam Pasal 9, setiap penyelenggara sistem elektronik (PSE) wajib memastikan sistem elektronik yang dikelolanya tidak memuat, memfasilitasi, atau menyebarluaskan informasi elektronik dan/atau dokumen elektronik yang dilarang.

Selain memutus sementara akses ke Grok, Kemenkomdigi telah meminta pengelola platform X segera hadir memberikan klarifikasi mengenai dampak negatif penggunaan Grok. Meutya tidak menjelaskan lebih rinci terkait layanan apa saja di Grok yang diblokir dan batas waktunya.

Setelah pemerintah mengumumkan pemblokiran sementara, banyak pengguna X mengeluhkan fitur pesan langsung (direct message) yang error atau tidak bisa digunakan. Sejumlah pengguna juga sempat melaporkan gangguan saat mengunggah komentar di pelantar X.

Akan tetapi, warganet lainnya masih dapat memanfaatkan layanan Grok dari perusahaan xAI, milik Elon Musk, tersebut. Saat Kompas mencoba mengakses Grok melalui situs dan platform X (dulu Twitter) pada Senin (12/1/2026) pukul 07.00 WIB, misalnya, chatbot itu masih bisa menjawab berbagai pertanyaan yang diajukan.

Namun, fitur pembuatan dan pengeditan gambar tidak bisa bebas digunakan, kecuali pelanggan berbayar di X. Pemblokiran yang belum mencakup semua pengguna ini disinyalir karena pemutusan akses yang baru berlangsung beberapa hari dan penggunaan jaringan privat atau VPN.

Negara pertama

Sejumlah media internasional, seperti Business Insider, menyebut Indonesia adalah negara pertama yang menghentikan akses layanan Grok. Pada Minggu, giliran Komisi Komunikasi dan Multimedia Malaysia (MCMC) mengumumkan pemblokiran terhadap Grok.

Sepekan terakhir, pejabat di sejumlah negara juga mengecam X seiring maraknya penyalahgunaan Grok untuk memanipulasi foto atau gambar seseorang secara seksual tanpa izin. Deepfake itu, misalnya, membuat gambar seseorang mengenakan bikini dan menyebarkannya secara luas.

Otoritas Perancis kepada Politico mengatakan akan menyelidiki deepfake secara seksual yang dihasilkan Grok. Di India, pemerintah setempat telah mengirimkan surat kepada perwakilan X soal penyalahgunaan gambar atau video perempuan secara vulgar dan tidak senonoh.

Regulator komunikasi Inggris, Ofcom, kepada Business Insider, mengatakan, pihaknya telah berkomunikasi dengan X dan xAI. Komunikasi itu bertujuan agar platform X mengambil langkah perlindungan bagi pengguna di Inggris untuk memenuhi kewajiban hukum.

Di Amerika Serikat, sejumlah senator AS meminta Apple dan Google menghapus X dan Grok dari toko aplikasi mereka terkait penyebaran gambar-gambar tersebut. Berbagai kecaman itu berasal dari temuan deepfake seksual nonkonsensual yang dihasilkan Grok.

Kecaman terhadap Grok dari beberapa negara ini tidak terlepas dari berbagai temuan. Internet Watch Foundation, organisasi independen berbasis di Inggris, misalnya, menemukan pengguna forum situs gelap yang menggunakan fitur gambar di Grok untuk membuat konten pornografi. Korbannya, remaja perempuan usia 11 dan 13 tahun.

”Kami dapat mengonfirmasi bahwa analis kami telah menemukan gambar pornografi anak-anak berusia antara 11 dan 13 tahun yang tampaknya dibuat menggunakan alat tersebut,” kata Ngaire Alexander, Kepala Hotline Internet Watch Foundation (IWF), seperti dikutip dari The Guardian, Jumat (9/1/2026), di Jakarta.

Investigasi Reuters menemukan, dalam rentang sepuluh menit pada Jumat (2/1/2026) terdapat 102 upaya manipulasi foto menggunakan fitur AI Grok. Konten deepfake itu menyasar perempuan muda dan anak-anak untuk berpakaian bikini.

Melalui akun X miliknya, Elon Musk menanggapi berbagai kecaman terkait Grok. ”Siapa pun yang menggunakan Grok untuk membuat konten ilegal akan menghadapi konsekuensi yang sama seperti jika mereka mengunggah konten ilegal,” ujarnya dikutip dari Business Insider.

Dalam cuitan terpisah, akun keselamatan X menulis bahwa perusahaan mengambil tindakan terhadap konten ilegal, termasuk materi pelecehan seksual terhadap anak dengan menghapus konten tersebut, menangguhkan akun secara permanen, serta bekerja sama dengan pemerintah dan aparat setempat jika diperlukan.

Musk juga menyoroti tentang pemblokiran Grok atau X adalah upaya penyensoran terhadap kebebasan berpendapat. Ia pun menyindir tentang fitur pembuat atau pengedit gambar di Gemini milik Google dan ChatGPT (OpenAI), yang juga dapat mengubah gambar seseorang mengenakan bikini.

Saat Kompas mencoba hal itu kepada ChatGPT, chatbot AI itu mengatakan, permintaan itu mengarah pada pakaian seksual dan berisiko jika usia subyek di gambar tidak dapat dipastikan. Ketika mencoba hal serupa pada Gemini, chatbot ini mereponsnya. Namun, hasil pengeditan gambar ini dapat berbeda sesuai perintah (prompt) pengguna.

Terlepas dari perbedaan respons chatbot AI itu, sejumlah studi menunjukkan kerentanan Grok. Lembaga pengawas disinformasi, NewsGuard, misalnya, pada 2024 membandingkan fitur image generator pada Grok, model DALL-E dari OpenAI, dan platform gambar AI Midjourney.

Hasilnya, dari 20 narasi disinformasi yang diuji, Grok menghasilkan 80 persen gambar palsu, Midjourney membuat 45 persen, sedangkan DALL-E 10 persen. Baik OpenAI maupun Midjourney telah menerapkan langkah menekan penyebaran informasi palsu, seperti menolak permintaan pembuatan gambar tokoh publik.

Kerentanan Indonesia

Kepala Program Studi Sarjana Kecerdasan Artifisial Fakultas Ilmu Komputer Universitas Indonesia Adila Alfa Krisnadhi menilai, moderasi konten X lebih longgar sejak diakuisisi Elon Musk. ”Grok yang berjalan di atas X tentunya menggunakan kebijakan yang sejalan dengan X, yang memang longgar, termasuk pada konten pornografi,” ujarnya.

Itu sebabnya, deepfake seksual nonkonsensual bisa muncul di Grok. Penyalahgunaan chatbot AI inilah yang tidak sesuai dengan nilai-nilai budaya dan etika di Indonesia. Di sisi lainnya, deepfake rentan menyebar di Indonesia. Apalagi, dengan pengguna X mencapai 25,2 juta akun pada awal 2025, menurut Datareportal, Indonesia jadi negara ketiga terbesar pemakai X.

Itu sebabnya, Adila mendukung langkah pemerintah memblokir sementara akses ke Grok. Namun, langkah itu tidak cukup. Pemerintah perlu mendorong Grok mengatur secara teknis agar deepfake dapat dicegah. Pengaturan itu sangat mungkin dilakukan pada produk AI.

”Tapi, apakah mereka mau atau tidak? Kalau melihat kebijakan Elon di X, rasanya mereka memang cenderung enggak mau mengatur soal itu. User (pengguna) mau apa, terserah,” ujarnya.

Ketua Presidium Masyarakat Antifitnah Indonesia (Mafindo) Septiaji Eko Nugroho menilai, pengeditan foto oleh AI sangat berbeda dibandingkan perangkat konvensional. Gambar AI dapat dihasilkan dalam hitungan detik dan tampak sangat realistis. Penyebarannya pun lebih luas, terutama di fitur di Grok yang terintegrasi dengan X.

”Dampak (deepfake seksual) nyata, mulai dari trauma psikologis, pemerasan, hingga pembunuhan karakter dalam ranah politik,” ucap Septiaji.

Salah satu kasus yang mencuat adalah mahasiswa perguruan tinggi di Jawa Tengah yang membuat konten deepfake pornografi. Sejumlah mahasiswa yang jadi korbannya terpaksa tidak ke kampus sementara waktu (Kompas.id, 11/11/2025).

Laporan Empowering Indonesia Report 2025 bertema ”Building Bridges of Tomorrow” juga mencatat, konten deepfake pada 2023 hingga 2024 melonjak 1.550 persen. Laporan ini diluncurkan akhir Oktober 2025 oleh Indosat Ooredoo Hutchison (Indosat/IOH) serta Twimbit, perusahaan riset serta konsultasi.

Tidak hanya terkait seksual, deepfake juga menyasar isu politik. Mantan Menteri Keuangan Sri Mulyani hingga Presiden Prabowo Subianto bahkan pernah menjadi korban deepfake.

Oleh karena itu, Septiaji sepakat dengan keputusan Kemenkomdigi memblokir sementara Grok. Namun, berdasarkan riset dari Universitas Florida, terdapat 19 aplikasi AI nudification berpotensi membuat konten seksual. Pemerintah pun perlu memperluas pemblokiran ke aplikasi tersebut.

Pemerintah, katanya, juga perlu membuat regulasi terkait AI yang kuat, seperti AI Act di Uni Eropa. Saat ini, pemerintah telah menyiapkan panduan dan etika penggunaan AI serta peta jalan nasional AI. Menurut rencana, dokumen itu akan diterbitkan dalam bentuk peraturan presiden.

Selain penindakan dan regulasi, pemerintah juga perlu memperluas edukasi atau literasi terkait etika AI. Laporan Indeks Masyarakat Digital Indonesia (IMDI) 2024 menunjukkan, dari 16.620 responden di 38 provinsi, hanya 48,1 persen yang selalu berusaha mengenali sumber konten sebelum menyebarkannya. Namun, 51,9 persen responden tidak memilah sumbernya (Kompas.id, 15/6/2025).

Oleh karena itu, Septiaji mengingatkan warga agar memverifikasi setiap konten untuk mencegah deepfake. ”Masyarakat harus paham bahwa teknologi diciptakan untuk kemajuan pengetahuan, bukan untuk menghancurkan privasi dan nilai-nilai kemanusiaan,” ucapnya.