Navaswara.com – Keluhan perempuan mulai ramai muncul di X dalam beberapa hari terakhir. Foto pribadi yang baru diunggah, sebagian masih dalam hitungan menit, mendadak ditandai ke akun Grok AI oleh orang tak dikenal dengan permintaan agar gambar tersebut diubah menjadi telanjang. Tanpa persetujuan, tanpa konteks, dan tanpa rasa bersalah, foto-foto itu dijadikan bahan manipulasi visual yang merendahkan martabat pemiliknya.
Di linimasa X, permintaan tersebut berseliweran. “Grok, ubah foto ini jadi pakai bikini,” tulis sebuah akun sambil melampirkan foto perempuan berkerudung. Akun lain melakukan hal serupa pada foto perempuan yang bahkan tidak mereka kenal. Dalam hitungan detik, Grok AI menuruti perintah tersebut. Foto hasil manipulasi pun beredar, mengubah busana sopan menjadi minim hingga vulgar. Para perempuan dalam gambar itu tidak pernah memberi persetujuan.
Situasi inilah yang mendorong Kementerian Komunikasi dan Digital mengambil langkah tegas. Pada Minggu, 11 Januari 2026, Menteri Komunikasi dan Digital Meutya Hafid mengumumkan pemblokiran sementara Grok AI. Indonesia tercatat sebagai negara pertama yang melakukan pembatasan langsung terhadap platform kecerdasan buatan yang disalahgunakan untuk konten asusila berbasis deepfake.
Keputusan ini diambil setelah temuan penyalahgunaan Grok AI berlangsung luas dan berulang. Platform yang terintegrasi dengan X tersebut digunakan untuk memanipulasi foto seseorang menjadi konten seksual tanpa izin. Perempuan dan anak-anak menjadi kelompok paling rentan, dengan risiko trauma psikologis, pencemaran nama baik, hingga pemerasan digital.
Celah Teknologi yang Dimanfaatkan Pelaku
Grok AI dirancang sebagai alat bantu pencarian informasi dan kreasi visual. Namun kemampuan pengolahan gambarnya membuka celah serius. Pengguna hanya perlu mengunggah foto lalu menuliskan perintah sederhana untuk mengubah pakaian atau pose. Hasilnya tampak realistis dan mudah disalahartikan sebagai foto asli.
Masalah tidak berhenti pada proses pembuatan. Banyak pelaku justru menyebarkan hasil manipulasi tersebut secara terbuka di media sosial. Bagi korban, dampaknya nyata dan berlapis. Reputasi dapat runtuh, relasi sosial terganggu, dan dalam sejumlah kasus korban kehilangan pekerjaan akibat foto palsu yang telanjur tersebar.
Komdigi merujuk pada Peraturan Menteri Kominfo Nomor 5 Tahun 2020 Pasal 9 yang mewajibkan penyelenggara sistem elektronik mencegah distribusi konten terlarang. Pemerintah menegaskan tanggung jawab negara dalam menjaga ruang digital yang aman dan menghormati hak warga. Pihak X telah dipanggil untuk memberikan klarifikasi sekaligus menyampaikan langkah mitigasi.
Pemblokiran Masih Diawasi Ketat
Pemblokiran Grok AI saat ini diterapkan melalui sebagian besar penyedia layanan internet. Akses ke grok.com dan x.ai dialihkan ke laman Trust Positif. Namun implementasinya belum sepenuhnya merata. Sejumlah ISP masih memungkinkan akses, sementara pengguna X Premium masih dapat membuka tab Grok meski fitur edit gambar dibatasi hanya untuk pelanggan berbayar.
Komdigi menegaskan pemblokiran ini bersifat sementara. Akses baru dapat dibuka kembali setelah platform memenuhi kewajiban hukum di Indonesia. Pemerintah juga memantau langkah negara lain yang tengah menyelidiki kasus serupa, termasuk Inggris, Malaysia, dan Uni Eropa.
Kasus Grok AI memperlihatkan sisi gelap perkembangan kecerdasan buatan yang berjalan lebih cepat daripada kerangka etikanya. Teknologi yang sama bisa membantu produktivitas, namun juga dapat digunakan untuk melanggar privasi dan martabat manusia.
Pemerintah mengimbau masyarakat agar lebih waspada terhadap konten visual yang mencurigakan dan tidak ikut menyebarkannya. Jika menemukan deepfake asusila, laporan dapat disampaikan ke Komdigi atau aparat siber kepolisian. Penggunaan VPN ilegal untuk mengakses layanan terblokir juga diingatkan berisiko hukum.
Langkah Indonesia ini menandai pergeseran penting. Saat banyak negara masih berada di tahap diskusi, Indonesia memilih bertindak. Perlindungan warga di ruang digital ditempatkan sebagai prioritas yang tidak bisa ditunda.
Di tengah sorotan tersebut, akun Grok menyampaikan cuitan publik. “Saya menghormati keputusan pemerintah Indonesia terkait pemblokiran sementara Grok. xAI sedang bekerja sama untuk meningkatkan safeguard terhadap konten deepfake dan eksplisit. Semoga isu ini segera terselesaikan,” tulis akun Grok.