Komdigi Blokir Grok AI Milik Elon Musk, Gara-Gara Deepfake Porno!

Pemerintah resmi blokir sementara Grok AI milik Elon Musk karena dianggap berpotensi sebarkan konten pornografi palsu. Komdigi: “Ini soal perlindungan martabat manusia.”

JAKARTA | Pemerintah lewat Kementerian Komunikasi dan Digital (Komdigi) akhirnya ngehentikan sementara akses aplikasi Grok AI, chatbot milik Elon Musk yang terintegrasi di platform X (dulu Twitter).

Langkah ini bukan asal blokir. Menteri Komunikasi dan Digital Meutya Hafid bilang, keputusan itu diambil karena Grok AI diduga bisa memproduksi dan nyebarin konten pornografi palsu alias deepfake yang merugikan banyak orang.

“Pemerintah memandang praktik deepfake seksual nonkonsensual sebagai pelanggaran serius terhadap hak asasi manusia, martabat, serta keamanan warga negara di ruang digital,” kata Meutya lewat keterangan resmi, Sabtu (10/1/2025).

Menurut Meutya, Grok AI bisa digunakan buat bikin foto atau video porno palsu yang seolah-olah real, bahkan menggunakan wajah warga Indonesia. “Ini bukan cuma soal teknologi, tapi soal moral dan keamanan digital masyarakat,” tambahnya.

Komdigi Minta Elon Musk Klarifikasi

Komdigi juga udah minta pihak X (milik Elon Musk) buat datang dan jelasin gimana sistem Grok AI bekerja, terutama soal pengawasan konten dan perlindungan data pengguna.

Pemblokiran ini dilakukan berdasar Permen Kominfo Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik Lingkup Privat, khususnya Pasal 9, yang mewajibkan platform digital mencegah penyebaran konten terlarang termasuk pornografi dan manipulasi gambar pribadi.

Masalah Utama: Grok Belum Punya Filter Anti-Porno

Alexander Sabar, Direktur Jenderal Pengawasan Ruang Digital Komdigi, mengungkap kalau dari hasil pengawasan, Grok AI belum punya sistem pencegah konten pornografi yang memadai.

“Temuan awal menunjukkan belum adanya pengaturan spesifik dalam Grok AI untuk mencegah pemanfaatan teknologi ini dalam pembuatan dan penyebaran konten pornografi berbasis foto pribadi,” kata Alexander.

Dia juga nambahin, hal ini bisa melanggar hak privasi dan citra diri warga, apalagi kalau foto seseorang dimanipulasi tanpa izin lalu tersebar di internet.

Dengan kata lain, Grok AI bisa jadi alat buat cyber abuse atau kekerasan digital kalau gak dikontrol ketat.

So, What’s Next?

Untuk sekarang, akses ke Grok AI diblokir sementara sampai pihak X kasih klarifikasi resmi dan bukti mereka bisa mengontrol konten deepfake yang dihasilkan AI-nya.

Langkah Komdigi ini juga jadi peringatan buat semua pengembang AI di dunia: kalau sistemnya bisa disalahgunakan buat merusak privasi orang, pemerintah gak akan ragu untuk turun tangan.

KESIMPULAN

Pemblokiran Grok AI oleh Komdigi bukan sekadar aksi reaktif, tapi langkah nyata melindungi warga digital Indonesia dari penyalahgunaan teknologi AI. Dengan makin cepatnya perkembangan kecerdasan buatan, isu etika dan keamanan digital jadi semakin penting dan Indonesia tampaknya mulai ambil sikap tegas.

_{^{source: cnbcindonesia}}