Komdigi Blokir Grok AI, Ancaman Bahaya Ini Jadi Alasan Utamanya

BELITONGEKSPRES.COM - Pemerintah melalui Kementerian Komunikasi dan Digital (Komdigi) mengambil langkah tegas dengan memutus akses sementara terhadap aplikasi Grok AI.

Aplikasi kecerdasan buatan milik platform X tersebut dinilai berisiko disalahgunakan untuk memproduksi konten pornografi palsu berbasis teknologi AI.

Menteri Komunikasi dan Digital Meutya Hafid menegaskan, kebijakan pemblokiran ini dilakukan untuk melindungi perempuan, anak, serta seluruh masyarakat dari ancaman konten asusila nonkonsensual yang beredar di ruang digital.

"Pemerintah memandang praktik deepfake seksual sebagai pelanggaran serius terhadap hak asasi manusia (HAM). Konten semacam ini juga dinilai merusak martabat, keamanan, dan privasi warga negara di dunia digital. Karena itu, negara wajib hadir memberikan perlindungan," kata Meutya  dalam keterangan resmi, dikutip Sabtu (10/1/2025).

BACA JUGA:4 Ciri Orang Rentan Jadi Korban Penipuan Online, Sering Terjadi Tanpa Disadari

Selain memutus akses Grok AI, Kemkomdigi juga telah meminta pihak platform X untuk segera memberikan klarifikasi. Pemerintah ingin mengetahui sejauh mana dampak negatif penggunaan Grok serta langkah mitigasi yang disiapkan untuk mencegah penyalahgunaan teknologi tersebut.

Pemutusan akses ini dilakukan berdasarkan kewenangan Kementerian Komunikasi dan Digital sesuai Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik Lingkup Privat.

Aturan ini mewajibkan setiap Penyelenggara Sistem Elektronik memastikan sistem yang dikelolanya tidak memuat, memfasilitasi, maupun menyebarluaskan konten terlarang.

Sebelumnya, Kemkomdigi telah menyoroti penggunaan Grok AI yang diduga dimanfaatkan untuk memproduksi dan menyebarkan konten pornografi di dalam platform X.

BACA JUGA:Cara Dapat Saldo DANA Gratis Rp122.000 dari Aplikasi Penghasil Uang Hello Words, Cuma Main Game!

Isu ini mencuat setelah ditemukan adanya manipulasi foto nyata warga Indonesia menjadi konten asusila tanpa persetujuan.

Direktur Jenderal Pengawasan Ruang Digital Kemkomdigi, Alexander Sabar, menyatakan Grok AI belum memiliki pengaturan yang memadai untuk mencegah produksi dan distribusi konten pornografi berbasis foto asli. Celah ini dinilai sangat berbahaya bagi perlindungan data pribadi masyarakat.

Menurut Alexander, temuan awal menunjukkan belum adanya sistem pengamanan spesifik yang mampu menahan penyalahgunaan Grok AI untuk membuat dan menyebarkan konten pornografi berbasis foto pribadi.

Kondisi tersebut berpotensi menimbulkan pelanggaran serius terhadap hak privasi dan hak atas citra diri warga. Kemkomdigi menegaskan akan terus melakukan pengawasan ketat terhadap pemanfaatan teknologi kecerdasan artifisial.