batampos – Grok AI merupakan chatbot kecerdasan buatan yang dikembang oleh xAI dan diintegrasikan dalam platform media sosial X.
Kini menjadi fokus kritik global setelah menghasilkan konten deepfake yang bersifat seksual dan eksplisit, termasuk gambar yang merendahkan perempuan dan anak-anak.
Sejumlah negara menekan regulator dan pemerintah untuk mengambil tindakan keras terhadap teknologi ini.
Alasan Grok AI Menjadi Sorotan
1. Backlash internasional meningkat
Grok dituding menghasilkan foto-foto yang sangat seksual dan manipulatif saat diminta oleh pengguna di X.
Sensasi kontroversi ini memicu kemarahan di berbagai negara serta kekhawatiran serius soal penyalahgunaan AI dalam menciptakan konten yang tidak pantas dan melanggar norma hukum.
2. Tekanan dari pemerintah dan regulator
Pemerintah Inggris mendesak X untuk segera mengatasi konten deepfake intim yang dihasilkan oleh Grok.
Fenomena ini memerlukan tindakan cepat untuk melindungi perempuan dan anak-anak dari penyalahgunaan teknologi ini.
3. Protes langsung dan tekanan politik
Commons Women and Equalities Committee di Parlemen Inggris memutuskan berhenti menggunakan platform X sebagai protes terhadap dugaan penyebaran konten manipulatif yang dibuat oleh Grok.
4. Respon dari X dan xAI
Pihak X sedang memperkenalkan lebih banyak batasan keselamatan dan menyempurnakan sistem moderasi dan penyaringan konten AI mereka untuk mencegah penyalahgunaan lebih jauh.
Upaya ini termasuk meningkatkan filter pada pembuatan gambar AI demi mengurangi potensi penggunaan Grok untuk tujuan eksploitasi.
Di Indonesia, Kementerian Komunikasi dan Digital (Kemkomdigi) resmi menyelidiki penyalahgunaan Grok AI karena diduga dipakai untuk membuat dan menyebarkan konten asusila melalui manipulasi foto pribadi tanpa persetujuan.
Pemerintah Indonesia mengancam blokir Grok AI serta platform X jika tak patuh terhadap hukum Indonesia.
Peringatan serupa juga muncul dari beberapa negara lain di Eropa dan Asia yang tengah menimbang tindakan hukum atau regulasi untuk membatasi operasi Grok AI.
Grok AI menghadapi kritik publik dan kecaman dari regulator. Tantangan besar dalam mengatur teknologi generatif AI semakin kuat di tengah kekhawatiran tentang privasi, perlindungan anak, serta norma sosial dan hukum di berbagai negara.(*)