.jpg)
JAKARTA, WarungBede – Kementerian Komunikasi dan Digital (Kemkomdigi) dilaporkan tengah melakukan pendalaman terkait dugaan penyalahgunaan teknologi kecerdasan buatan (AI) bernama Grok. Teknologi milik xAI ini diduga dimanfaatkan oleh pihak tidak bertanggung jawab untuk memproduksi konten bermuatan asusila atau pornografi.
Langkah ini diambil menyusul banyaknya laporan mengenai potensi penggunaan fitur pembuat gambar (image generator) pada Grok yang minim filter terhadap konten sensitif. Kemkomdigi menegaskan bahwa segala bentuk distribusi konten yang melanggar Undang-Undang Informasi dan Transaksi Elektronik (UU ITE) akan ditindak tegas.
Tantangan Regulasi
AI
Pihak kementerian menyatakan bahwa meskipun teknologi AI membawa kemajuan besar, pengawasannya harus diperketat untuk mencegah dampak negatif di masyarakat. "Kami sedang mendalami mekanisme teknis bagaimana konten tersebut dihasilkan dan sejauh mana platform bertanggung jawab atas output yang dihasilkan penggunanya," ujar perwakilan kementerian dalam keterangan tertulisnya.
Grok AI, yang terintegrasi dengan platform media sosial X (sebelumnya Twitter), memang dikenal memiliki kebijakan yang lebih "bebas" dibandingkan kompetitornya seperti ChatGPT (OpenAI) atau Gemini (Google). Namun, kebebasan ini memicu kekhawatiran terkait penyebaran deepfake atau gambar eksplisit yang merugikan martabat individu.
Peringatan bagi Pengguna Kemkomdigi mengimbau masyarakat untuk tidak turut serta menyebarkan konten asusila hasil olahan AI. Berdasarkan UU ITE, individu yang sengaja mendistribusikan konten pornografi di ruang digital dapat terjerat sanksi pidana penjara maupun denda hingga miliaran rupiah.
Saat ini, pemerintah terus menjalin komunikasi dengan berbagai penyedia layanan platform global agar mereka memperkuat sistem moderasi konten, terutama yang berbasis AI, guna mematuhi norma dan hukum yang berlaku di Indonesia.