Pada awal Januari 2026, Indonesia dan Malaysia menempatkan diri di garis depan respons terhadap revolusi kecerdasan buatan (AI) dengan mengambil langkah yang belum pernah terjadi sebelumnya: memblokir akses ke chatbot AI Grok yang dikembangkan oleh xAI milik Elon Musk. 

Dua negara Asia Tenggara itu menjadi entitas pertama di dunia yang memberlakukan pembatasan langsung terhadap teknologi AI besar bukan karena masalah politik atau sensor konten biasa, tetapi atas dasar perlindungan hak asasi dan keamanan digital warganya. 

Grok diluncurkan pada 2023 sebagai salah satu chatbot generatif yang mampu menjawab pertanyaan, menganalisis teks, serta yang kemudian paling kontroversial, mampu menghasilkan gambar vulgar melalui fitur “Grok Imagine”. 

Secara teori, fitur ini ditujukan untuk kreativitas dan visualisasi. Seperti membantu ilustrasi karya seni atau konten edukatif. Namun dalam praktiknya, banyak pengguna memanfaatkannya dengan perintah-perintah sederhana untuk menghasilkan gambar yang eksplisit secara seksual dan manipulatif, termasuk konten yang tampak seperti orang asli tanpa persetujuan mereka. 

Regulator di Indonesia dan Malaysia menyatakan bahwa mekanisme moderasi Grok terbukti tidak efektif untuk menghentikan pembuatan dan penyebaran konten tersebut, khususnya yang melibatkan perempuan dan anak-anak dalam gambar eksplisit yang disintesis secara AI. 

Menurut seorang pejabat Indonesia, ketidakmampuan platform dalam mencegah deepfake seksual yang non-konsensual merupakan pelanggaran serius terhadap hak asasi, martabat, privasi, dan keamanan digital publik. Penciptaan dan distribusi deepfake seperti ini tidak hanya melukai citra seseorang, tetapi juga berpotensi memicu trauma psikologis, stigma sosial, dan bahaya reputasi. 

Pemerintah Indonesia secara resmi memblokir Grok pada Sabtu lalu, diikuti oleh Malaysia pada hari Minggu. Langkah yang digambarkan kedua negara sebagai tindakan pencegahan proporsional sambil menunggu penerapan safeguard yang efektif. 

Otoritas Malaysia, Komisi Komunikasi dan Multimedia (MCMC), mengatakan bahwa meskipun pihaknya telah mengeluarkan peringatan kepada X Corp. dan xAI, respons yang diterima masih bergantung pada pelaporan oleh pengguna, bukan kontrol proaktif dari pengembang AI itu sendiri. Karena itu, akses ke Grok tetap dibatasi sampai perlindungan yang efektif dapat dipastikan. 

Blokir di Indonesia dan Malaysia tidak berdiri sendiri. Di Eropa dan Inggris, pengawasan terhadap Grok telah mengambil arah yang lebih sistematis:

Regulator media Inggris, Ofcom, sedang menyelidiki X (platform tempat Grok beroperasi) atas dugaan pelanggaran hukum terkait konten yang menghasilkan deepfake seksual dan materi eksplisit yang dapat melibatkan anak di bawah umur. 

Pemerintah Inggris bahkan bergerak untuk membuat pembuatan citra intim non-konsensual menjadi tindak pidana secara eksplisit melalui legislasi baru yang akan diperkenalkan. Di Uni Eropa, sejumlah otoritas regulator telah memperluas penyelidikan di bawah Digital Services Act, menuntut agar platform AI menunjukkan kontrol risiko yang kuat terhadap distribusi konten ilegal. 

Permasalahan ini mencerminkan bagaimana model AI generatif, ketika tidak memiliki kontrol teknis yang memadai, dapat dipakai untuk tujuan yang menyalahi tujuan awal teknologi: membantu kreatifitas dan produktivitas, berubah menjadi alat diskriminatif dan berbahaya.

Kasus Grok tidak semata tentang satu alat AI saja. Ia membuka debat tentang tanggung jawab perusahaan teknologi besar dalam mencegah penyalahgunaan produk mereka, perlindungan privasi digital, serta sejauh mana negara-negara harus bertindak untuk melindungi warga mereka di era AI yang semakin bebas berekspansi.

Walau fitur generatif AI memiliki potensi luar biasa, mulai dari pendidikan visual hingga kolaborasi kreatif, ketidaksiapan dalam menanggulangi dampak sosial negatifnya bisa berujung pada konsekuensi serius bagi martabat dan hak individu. Ini menjadi panggilan penting bukan hanya bagi regulator, tetapi juga komunitas AI global untuk mengembangkan standar etika dan teknis yang lebih kuat. (Red)