Di tengah kemudahan teknologi kecerdasan buatan, ruang digital kini menyimpan ancaman baru yang sering luput disadari pengguna. Bukan lagi sekadar soal unggahan yang tidak pantas, melainkan praktik manipulasi identitas manusia. Mulai dari wajah, tubuh, dan citra diri yang bisa diubah hanya lewat perintah teks. Fenomena inilah yang memicu keprihatinan serius anggota Komisi I DPR, Amelia Anggraini, terhadap penyalahgunaan layanan akal imitasi Grok di platform media sosial X.

Amelia menilai penggunaan teknologi AI untuk memanipulasi foto pribadi menjadi konten bermuatan seksual tanpa persetujuan pemiliknya sebagai pelanggaran berat terhadap martabat manusia. Menurut dia, praktik semacam ini bukan sekadar persoalan moral atau kesusilaan, melainkan bentuk kekerasan berbasis teknologi yang nyata dan berbahaya.

“Ketika identitas visual seseorang dimanipulasi tanpa izin untuk konten asusila, itu perampasan hak individu atas citra dirinya,” ujar Amelia dalam keterangan tertulis, Jumat, 9 Januari 2026. Dampaknya, kata dia, bisa berlapis: luka psikologis, stigma sosial, hingga kerusakan reputasi yang sulit dipulihkan.

Dalam konteks hukum, Amelia mengingatkan bahwa wajah seseorang, baik dalam foto maupun video, merupakan data pribadi. Undang-Undang Pelindungan Data Pribadi (UU PDP) secara tegas melarang pemrosesan data semacam itu tanpa dasar hukum yang sah. Karena itu, ia mendorong Kementerian Komunikasi dan Digital untuk tidak hanya bereaksi setelah kasus viral, tetapi bersikap aktif memastikan kepatuhan platform digital dan penyedia layanan AI sejak awal.

Negara, menurut Amelia, tidak boleh absen di ruang digital. Perlindungan warga harus hadir melalui kebijakan yang tegas, terukur, dan dapat diawasi publik. Ia menekankan pentingnya mekanisme respons cepat bagi korban, mulai dari kanal pelaporan yang mudah diakses, proses takedown yang segera, hingga pencegahan unggah ulang konten bermasalah.

“Pemrosesan identitas visual untuk konten seksual tanpa dasar hukum yang sah harus diperlakukan sebagai pelanggaran serius,” kata politikus Partai NasDem itu. Ia juga menyoroti perlunya standar ketat bagi Penyelenggara Sistem Elektronik (PSE), termasuk platform X dan penyedia layanan AI, agar pencegahan dilakukan sejak tahap desain sistem (prevention by design), bukan sekadar pemadaman setelah pelanggaran terjadi.

Isu ini mencuat seiring maraknya penggunaan Grok di X, di mana pengguna dapat memberi instruksi tertulis untuk mengubah foto orang lain. Beberapa laporan menyebutkan adanya perintah untuk mengedit foto seseorang menjadi berpakaian minim, meski foto asli menunjukkan sebaliknya. Praktik semacam ini memantik perdebatan luas tentang etika penggunaan AI dan batas kebebasan berekspresi di ruang digital.

Pemerintah pun mulai bergerak. Kementerian Komunikasi dan Digital menyatakan tengah menindaklanjuti dugaan penyalahgunaan fitur Grok tersebut. Direktur Jenderal Pengawasan Ruang Digital, Alexander Sabar, menegaskan bahwa pemerintah memiliki kewenangan menjatuhkan sanksi administratif, bahkan hingga pemutusan akses layanan Grok AI dan platform X, jika ditemukan ketidakpatuhan.

Menurut Alexander, setiap PSE wajib memastikan teknologi yang mereka sediakan tidak menjadi alat pelanggaran privasi, eksploitasi seksual, atau perusakan martabat manusia. Penguatan moderasi konten, pencegahan pembuatan deepfake asusila, serta penanganan cepat atas laporan pengguna menjadi kewajiban yang tak bisa ditawar.

Di sisi lain, Amelia mengingatkan bahwa penegakan hukum kini memiliki landasan yang lebih kuat. Kitab Undang-Undang Hukum Pidana (KUHP) Nasional yang mulai berlaku sejak 2 Januari 2026 memuat ketentuan baru terkait pornografi, antara lain dalam Pasal 172 dan Pasal 407. Ketentuan ini menegaskan satu hal penting: ruang digital bukan wilayah tanpa hukum.

Kasus Grok menjadi cermin bahwa kemajuan teknologi selalu membawa dua sisi. Di satu sisi, ia menawarkan efisiensi dan kreativitas; di sisi lain, tanpa pengawasan dan etika, ia bisa berubah menjadi alat kekerasan yang senyap. Tantangannya kini bukan hanya pada kecanggihan teknologi, melainkan pada keberanian negara, platform, dan masyarakat untuk memastikan bahwa inovasi tidak mengorbankan martabat manusia. (Red)