Temukan Nusantaraterkini.co di WhatsApp!!
Nusantaraterkini.co, JAKARTA – Kementerian Komunikasi dan Digital (Komdigi) mengancam akan memblokir Grok AI dan platform media sosial X yang digunakan untuk memproduksi serta menyebarkan konten pornografi.
Anggota Komisi I DPR Syamsu Rizal mengaku mendukung langkah tegas Komdigi tersebut.
Pria yang akrab disapa Daeng Ical itu menilai, kemampuan Grok AI dalam memanipulasi gambar seseorang hingga menjadi konten asusila merupakan ancaman serius dan sangat mengkhawatirkan.
Terlebih, hingga saat ini Grok AI dinilai belum memiliki sistem moderasi konten yang memadai untuk mencegah penyalahgunaan tersebut.
Baca Juga : Cegah Spam dan Scam Call, Registrasi SIM Card Wajib Pakai Pengenalan Wajah Mulai 2026
“Selama ini kita melihat Grok AI di platform X dimanfaatkan oleh pengguna untuk mengubah foto atau gambar seseorang menjadi konten asusila. Dengan permintaan yang spesifik, Grok AI dapat menuruti instruksi tersebut. Ini jelas berbahaya,” ujarnya, Kamis (8/1/2026).
Pria asal Makassar itu menegaskan, penyalahgunaan kecerdasan buatan tanpa pengawasan yang ketat dapat berdampak luas, tidak hanya merugikan individu yang menjadi korban, tetapi juga merusak tatanan sosial dan moral masyarakat.
“Jika Grok AI dan platform X tidak mampu mengendalikan sistemnya dan tetap membiarkan produksi serta penyebaran konten pornografi, maka Komdigi harus bersikap tegas dengan memblokirnya,” tegasnya.
Baca Juga : Komdigi Kirim 500 HP untuk Korban Bencana Aceh, Komisi I: Harus Tepat Sasaran dan Terkordinasi dengan Baik
Menurut Daeng Ical, negara memiliki kewajiban melindungi warganya dari dampak negatif teknologi digital, terutama yang berkaitan dengan eksploitasi, pornografi, dan pelanggaran privasi.
Ia menilai, pembiaran terhadap praktik semacam ini akan menjadi preseden buruk bagi ekosistem digital nasional.
“Langkah tegas ini penting karena jika dibiarkan, penggunaan AI yang tidak bertanggung jawab akan sangat membahayakan dan merusak moral bangsa,” pungkas legislator dapil Sulsel ini.
Sebelumnya, Komdigi mengatakan aplikasi Grok AI dan X akan dikenakan sanksi administratif hingga pemutusan akses jika tidak patuh dan kooperatif terhadap aturan yang ada di Indonesia.
Dirjen Pengawasan Ruang Digital Komdigi Alexander Sabar menegaskan, platform X sebagai salah Penyelenggara Sistem Elektronik (PSE) wajib mematuhi peraturan perundang-undangan yang berlaku di Indonesia.
Menurut Sabar, penyedia layanan AI maupun pengguna yang terbukti memproduksi dan/atau menyebarkan konten pornografi atau manipulasi citra pribadi tanpa hak dapat dikenakan sanksi administratif dan/atau pidana sesuai ketentuan hukum yang berlaku.
(cw1/nusantaraterkini.co)
