(Doc-Tirtoid)
Jakarta, mediasatu.co.id – Maraknya penyalahgunaan chatbot kecerdasan buatan Grok di platform media sosial X memicu kegaduhan di kalangan warganet. Teknologi AI tersebut untuk memanipulasi foto konten asusila.
Sejumlah pengguna meminta Grok untuk mengedit foto perempuan secara digital hingga tampak mengenakan pakaian vulgar, termasuk bikini. Praktik ini menimbulkan kekhawatiran serius terkait keamanan dan etika penggunaan teknologi kecerdasan buatan.
Lebih jauh, laporan Reuters mengungkap adanya beberapa kasus di mana Grok menghasilkan citra seksual yang melibatkan anak-anak. Temuan ini memperbesar sorotan terhadap lemahnya pengamanan dan pengawasan pada sistem AI tersebut.
Kasus ini turut menarik perhatian sejumlah otoritas internasional. Otoritas Eropa, Pemerintah India, dan Malaysia tengah menyelidiki platform X. Sementara itu, di Inggris, Ofcom selaku media watchdog telah meminta klarifikasi dan informasi dari X.
Di dalam negeri, Kementerian Komunikasi dan Digital (Komdigi) menilai penyalahgunaan Grok AI sebagai pelanggaran berat terhadap privasi. Hasil penelusuran awal menunjukkan Grok belum memiliki pengaturan yang jelas dan memadai untuk mencegah pembuatan serta penyebaran konten asusila berbasis foto nyata warga negara Indonesia.
“Hal ini berisiko menimbulkan pelanggaran serius terhadap privasi dan hak citra diri warga,” kata Direktur Jenderal Pengawasan Ruang Digital Komdigi Alexander Sabar dalam keterangannya, Rabu (7/1).
Ia menegaskan bahwa manipulasi digital tersebut tidak sekadar persoalan moral. Melainkan juga bentuk perampasan kendali individu atas identitas visualnya. Dapat berdampak pada kondisi psikologis, sosial, hingga reputasi korban.
