Tiga Juta Gambar Bermuatan Seksual Dapat Diciptakan Grok Dalam 11 Hari

AKTUALITAS.ID – Berdasarkan perhitungan CCDH, Grok rata-rata menghasilkan sekitar 190 gambar bermuatan seksual per menit. Dari jumlah tersebut, satu gambar yang menampilkan anak-anak diperkirakan muncul setiap 41 detik.

Laporan terbaru mengungkap masifnya penyebaran gambar bermuatan seksual tanpa persetujuan buatan AI Grok dengan estimasi tiga juta gambar telah dibuat dalam kurun waktu 11 hari, termasuk 23.000 gambar yang menampilkan anak-anak.

Temuan tersebut dipublikasikan oleh organisasi nirlaba asal Inggris, Center for Countering Digital Hate (CCDH), dilansir dari Engadget pada Jumat (23/1/2026).

Penelitian ini didasarkan pada analisis sampel acak 20.000 gambar Grok yang dihasilkan antara 29 Desember 2025 hingga 9 Januari 2026, lalu diproyeksikan dari total sekitar 4,6 juta gambar yang dibuat Grok dalam periode tersebut.

Dalam laporannya, CCDH mendefinisikan gambar bermuatan seksual sebagai representasi fotorealistik seseorang dalam posisi, sudut, atau situasi seksual, termasuk orang yang digambarkan mengenakan pakaian minim seperti pakaian dalam atau baju renang, serta gambar yang menampilkan cairan seksual.

Penelitian ini tidak membedakan apakah gambar tersebut berasal dari manipulasi foto nyata seseorang atau dihasilkan murni dari perintah teks.

CCDH menggunakan alat berbasis AI untuk mengidentifikasi proporsi gambar bermuatan seksual dalam sampel tersebut. Meski metode ini memerlukan kehati-hatian dalam penafsiran hasil, CCDH menyebut banyak layanan analitik pihak ketiga memiliki data yang relatif andal karena memanfaatkan API platform X.

Pada 9 Januari, xAI membatasi kemampuan Grok untuk mengedit gambar yang sudah ada hanya bagi pengguna berbayar. Lima hari kemudian, X juga membatasi kemampuan Grok untuk membuat gambar orang dengan busana minim atau membuatnya telanjang.

Namun, pembatasan tersebut hanya berlaku di dalam platform X. Aplikasi mandiri Grok dilaporkan masih dapat menghasilkan gambar serupa.

Meski kebijakan Apple dan Google secara eksplisit melarang aplikasi yang menghasilkan konten seksual tanpa izin, termasuk yang melibatkan anak-anak, hingga kini kedua perusahaan tersebut belum menghapus aplikasi Grok dari App Store maupun Play Store.

Langkah ini berbeda dengan penanganan terhadap aplikasi serupa dari pengembang lain yang sebelumnya telah dihapus.

Sebanyak 28 kelompok advokasi perempuan bersama organisasi masyarakat sipil lainnya telah menyampaikan surat terbuka yang mendesak Apple dan Google untuk mengambil tindakan.

Namun hingga kini, kedua perusahaan belum memberikan tanggapan publik ataupun menjawab permintaan komentar dari sejumlah media.

Laporan CCDH juga mencatat bahwa sejumlah gambar bermuatan seksual tersebut menampilkan figur publik, termasuk tokoh politik dan selebritas internasional.

Selain itu, sebagian gambar yang melibatkan anak-anak dilaporkan masih dapat diakses di X hingga pertengahan Januari, bahkan setelah unggahan aslinya dihapus, karena masih tersedia melalui tautan langsung.

(Ari Wibowo/goeh)