JAKARTA — Kontroversi penggunaan Grok AI di platform X terus bergulir dan kian menempatkan perusahaan tersebut dalam tekanan besar. Pembatasan fitur pembuatan dan penyuntingan gambar yang diberlakukan oleh pemilik X, Elon Musk, dinilai belum mampu menghentikan penyalahgunaan kecerdasan buatan untuk konten asusila. Di berbagai negara, persoalan ini telah berkembang menjadi isu serius yang menyangkut privasi, hukum pidana, dan masa depan regulasi AI.
Sejak 9 Januari 2026 waktu Amerika Serikat, fitur pembuatan dan edit gambar Grok melalui perintah di lini masa X hanya dapat diakses oleh pelanggan X Premium. Pengguna gratis yang mencoba memanggil Grok dengan tagar @Grok akan menerima pesan otomatis yang menyatakan bahwa fitur tersebut dikunci dan hanya tersedia bagi pelanggan berbayar. Kebijakan ini diumumkan setelah maraknya laporan penyalahgunaan Grok AI untuk menghasilkan gambar pornografi dan deepfake.
Masalah utama yang memicu kegelisahan publik adalah kemampuan Grok AI menghasilkan gambar yang tampak realistis. Dengan teknologi generatif, foto seseorang dapat dimanipulasi hingga seolah terlibat dalam adegan tertentu yang tidak pernah terjadi. Dalam konteks penyalahgunaan, teknologi ini digunakan untuk membuat konten asusila berbasis wajah atau tubuh individu nyata, sering kali tanpa persetujuan pihak yang menjadi korban.
Dampak dari praktik tersebut dinilai sangat serius. Korban manipulasi foto berisiko mengalami kerusakan reputasi, tekanan psikologis, dan stigma sosial. Di ruang digital, konten semacam ini dapat menyebar dengan cepat dan sulit dihapus sepenuhnya. Sekali tersebar, gambar dapat disalin, diunggah ulang, dan muncul kembali di berbagai platform dalam waktu lama.
Meski telah diberlakukan pembatasan, kebijakan tersebut dinilai belum menyentuh akar persoalan. Sejumlah pengguna melaporkan bahwa pembuatan gambar masih dapat dilakukan melalui tab Grok yang tersedia langsung di aplikasi X. Selain itu, aplikasi Grok yang berdiri terpisah dari platform X juga belum sepenuhnya menerapkan pembatasan serupa. Kondisi ini memicu kritik bahwa pembatasan hanya bersifat administratif dan belum menyeluruh.
Pengamat teknologi menilai bahwa pembatasan berbasis langganan bukan solusi jangka panjang. Selama sistem AI masih mampu memproduksi konten ilegal, potensi penyalahgunaan tetap terbuka. Dalam pandangan ini, pencegahan seharusnya dilakukan pada tingkat teknologi, seperti penyaringan perintah, pembatasan jenis output, dan sistem moderasi yang lebih ketat.
Tekanan terhadap X datang dari berbagai negara. Pemerintah Inggris menyatakan bahwa pembatasan akses tidak menyelesaikan masalah inti. Menurut pejabat setempat, memindahkan fitur bermasalah ke layanan berbayar tidak otomatis menghentikan produksi konten ilegal. Uni Eropa juga menyampaikan sikap tegas. Otoritas Eropa menegaskan bahwa konten asusila tidak dapat ditoleransi dalam kondisi apa pun dan menekankan pentingnya tanggung jawab platform digital.
Di Amerika Serikat, polemik Grok AI turut menyeret platform X ke ranah politik. Sejumlah senator dilaporkan melayangkan surat kepada Apple dan Google untuk meminta evaluasi terhadap keberadaan aplikasi X di toko aplikasi. Para legislator menyoroti kewajiban platform digital dalam melindungi pengguna dari konten berbahaya serta kepatuhan terhadap standar distribusi aplikasi.
Di Indonesia, isu ini mendapat perhatian serius dari Kementerian Komunikasi dan Digital atau Komdigi. Pemerintah menyatakan telah melakukan penyelidikan awal terhadap Grok AI. Praktik manipulasi foto menjadi konten asusila dinilai berpotensi melanggar privasi dan hak atas citra diri warga negara.
Direktur Jenderal Pengawasan Ruang Digital, Alexander Sabar, menyampaikan bahwa hasil penelusuran awal menunjukkan Grok AI belum memiliki pengaturan yang eksplisit dan memadai untuk mencegah produksi serta distribusi konten pornografi berbasis foto asli. Menurutnya, manipulasi digital terhadap foto pribadi bukan hanya persoalan kesusilaan, tetapi juga bentuk perampasan kendali individu atas identitas visualnya.
Alexander menegaskan bahwa pelanggaran hak citra diri dapat menimbulkan dampak jangka panjang. Korban berpotensi mengalami tekanan psikologis, gangguan sosial, hingga kerusakan reputasi yang memengaruhi kehidupan pribadi dan profesional. Dalam konteks digital, dampak tersebut sering kali sulit dipulihkan karena konten dapat terus beredar meski telah dihapus dari sumber awal.
Komdigi saat ini berkoordinasi dengan para Penyelenggara Sistem Elektronik untuk memastikan tersedianya mekanisme perlindungan yang efektif. Pemerintah mendorong penguatan sistem moderasi konten, pencegahan pembuatan deepfake asusila, serta prosedur penanganan cepat atas laporan pelanggaran privasi. Seluruh PSE diingatkan untuk bertanggung jawab atas teknologi yang mereka sediakan.
Pemerintah juga menegaskan bahwa kepatuhan terhadap hukum nasional bersifat wajib. Jika ditemukan ketidakpatuhan atau sikap tidak kooperatif, sanksi administratif hingga pemutusan akses layanan dapat diterapkan. Opsi pemblokiran layanan Grok AI maupun platform X disebut terbuka apabila pelanggaran dinilai serius dan berulang.
Ancaman sanksi tersebut diperkuat dengan berlakunya Undang-Undang Nomor 1 Tahun 2023 tentang Kitab Undang-Undang Hukum Pidana sejak 2 Januari 2026. Dalam KUHP baru, konten pornografi dan manipulasi citra pribadi tanpa hak diatur secara tegas, dengan ancaman pidana penjara dan denda. Ketentuan ini tidak hanya menyasar individu, tetapi juga membuka ruang tanggung jawab bagi penyedia layanan yang lalai melakukan pencegahan.
Kasus Grok AI menunjukkan bahwa kecerdasan buatan generatif membawa tantangan besar di era digital. Di satu sisi, AI membuka peluang inovasi dan efisiensi. Di sisi lain, tanpa pengamanan dan regulasi yang kuat, teknologi yang sama dapat menjadi alat pelanggaran privasi dan martabat manusia.
Polemik ini menandai perubahan besar dalam cara publik dan pemerintah memandang platform digital. Inovasi kini tidak lagi dinilai hanya dari kecanggihannya, tetapi juga dari dampak sosial dan risiko hukum yang ditimbulkan. Grok AI menjadi contoh nyata bahwa masa depan kecerdasan buatan akan sangat ditentukan oleh kemampuan platform untuk menyeimbangkan inovasi dengan tanggung jawab, etika, dan perlindungan hak warga di ruang digital.