Indonesia Cabut Blokir atas Grok, tetapi Peringatkan: “Jika Melanggar, Akan Kami Tutup Lagi”
Jakarta – Pemerintah Indonesia kembali mengizinkan akses ke layanan kecerdasan buatan Grok, sekitar tiga minggu setelah platform tersebut diblokir karena kasus pembuatan gambar eksploitasi seksual berbasis deepfake terhadap anak. Kementerian Komunikasi dan Digital (Kemenkomdik) menegaskan bahwa pemulihan akses ini bersifat bersyarat dan disertai komitmen tertulis dari pengelola layanan.
Dalam pernyataan resminya, pejabat senior Kemenkomdik menjelaskan bahwa pihaknya telah menerima dokumen yang merinci langkah-langkah teknis untuk mencegah penyalahgunaan Grok, termasuk mekanisme moderasi konten dan pembatasan fitur yang dianggap berisiko tinggi.
“Akses ke Grok kami buka kembali dengan catatan. Kami akan terus memantau dan mengevaluasi implementasi komitmen tersebut. Jika kami menemukan pelanggaran baru, opsi untuk kembali menghentikan layanan tetap terbuka,” ujarnya.
Grok, Deepfake, dan Gelombang Kecaman Global
Grok adalah chatbot berbasis AI milik perusahaan xAI, yang juga terhubung dengan platform media sosial X (sebelumnya Twitter) milik Elon Musk. Pada akhir 2025, Grok menjadi sorotan tajam setelah digunakan untuk membuat gambar anak-anak dan perempuan dengan pakaian renang minim atau pakaian dalam melalui teknologi image editing dan deepfake.
Sejumlah gambar tersebut kemudian beredar di X, mengikuti permintaan sebagian pengguna yang ingin memanipulasi foto menjadi tampilan lebih terbuka. Kasus ini memicu kecaman luas karena di antara gambar yang dihasilkan terdapat foto yang menyerupai balita berusia 1–2 tahun, sehingga dikategorikan sebagai bentuk eksploitasi seksual anak.
Indonesia menjadi negara pertama yang secara resmi memutus akses ke Grok setelah temuan tersebut. Langkah ini kemudian diikuti oleh sejumlah otoritas lain: regulator media Inggris Ofcom dan Jaksa Agung negara bagian California di Amerika Serikat membuka penyelidikan terhadap X, sementara beberapa negara Eropa dan Malaysia menyatakan akan menelusuri lebih jauh kasus serupa. Pemerintah Filipina juga sempat memblokir Grok sebelum akhirnya mencabut larangan itu kurang dari sepekan kemudian.
Pembatasan Fitur oleh X dan xAI
Merespons tekanan publik dan regulator, pihak X dan xAI mengumumkan serangkaian pengetatan kebijakan. Fitur pembuatan dan pengeditan gambar Grok kini:
-
hanya dapat diakses oleh pelanggan berbayar (premium),
-
dilarang digunakan untuk menghasilkan gambar orang sungguhan dalam pose atau pakaian yang bersifat sangat terbuka seperti bikini atau pakaian dalam,
-
dan dibatasi agar tidak mengubah foto menjadi konten yang berpotensi melanggar hukum, khususnya terkait eksploitasi seksual.
Meski begitu, Kemenkomdik menilai bahwa komitmen di atas tetap harus diuji dalam praktik. Karena itu, pemantauan terhadap Grok dan platform X akan dilakukan secara berkala, termasuk melalui mekanisme pelaporan masyarakat dan koordinasi dengan otoritas di negara lain.
Indonesia Dorong Standar Baru untuk AI Generatif
Kasus Grok dinilai menjadi ujian awal bagi Indonesia dalam menghadapi risiko AI generatif. Pemerintah menegaskan bahwa inovasi teknologi tidak boleh menjadi alasan pembenaran bagi pembuatan dan penyebaran konten yang merugikan, terutama yang menyasar anak dan kelompok rentan.
Kemenkomdik menyebutkan bahwa pedoman yang sedang disusun terkait layanan AI—mulai dari kewajiban penyedia untuk memiliki sistem moderasi hingga kewajiban merespons cepat permintaan penghapusan konten ilegal—akan memperjelas batas main bagi pelaku industri.
“Kami tidak menolak inovasi, tetapi keselamatan, martabat, dan hak anak adalah prioritas. Setiap platform AI yang beroperasi di Indonesia harus sejalan dengan prinsip itu,” tegas pejabat Kemenkomdik tersebut.
Dengan dicabutnya blokir Grok secara bersyarat, perhatian kini tertuju pada bagaimana xAI dan X menerapkan janji-janji mereka di lapangan—dan sejauh mana Indonesia akan konsisten menggunakan kewenangan pemutus akses jika kasus serupa terulang.