fraksipan.id - Kementerian Komunikasi dan Digital (Komdigi) menindaklanjuti dugaan penyalahgunaan fitur kecerdasan buatan Grok AI di platform X yang digunakan untuk memproduksi dan menyebarkan konten asusila.
Direktur Jenderal Pengawasan Ruang Digital Komdigi, Alexander Sabar, menyampaikan bahwa hasil penelusuran awal menunjukkan Grok AI belum memiliki pengaturan yang eksplisit dan memadai untuk mencegah produksi serta distribusi konten pornografi berbasis foto nyata warga Indonesia.
“Hal ini berisiko menimbulkan pelanggaran serius terhadap privasi dan hak citra diri warga,” ujar Alexander dalam pernyataan resminya, Rabu (7/1).
Menanggapi hal tersebut, Anggota Komisi I DPR RI Fraksi Partai Amanat Nasional (PAN), H. Slamet Ariyadi, meminta Komdigi bersikap tegas sekaligus bijak dalam mengambil keputusan terhadap perusahaan digital yang tidak mematuhi regulasi di Indonesia.
“Saya meminta Komdigi bertindak tegas terhadap perusahaan digital yang tidak mematuhi aturan. Dugaan produksi dan distribusi konten pornografi berbasis foto nyata yang melibatkan warga Indonesia merupakan pelanggaran serius terhadap norma kesusilaan,” tegas Slamet.
Menurutnya, negara wajib memastikan ruang digital tetap taat dan tunduk pada hukum nasional. Setiap warga negara, kata Slamet, memiliki hak atas privasi dan perlindungan citra diri di ruang digital.
“Eksploitasi seksual jelas melanggar norma kesusilaan, terlebih jika menggunakan identitas visual warga Indonesia seolah-olah nyata,” tambahnya.
Slamet menegaskan, perkembangan teknologi kecerdasan buatan harus diimbangi dengan tanggung jawab dan kepatuhan hukum, agar ruang digital tidak menjadi ladang pelanggaran etika dan hak asasi manusia.