NTB, newsline.id – Lembaga pemantau keamanan daring The Internet Watch Foundation (IWF) mengungkapkan analisnya menemukan dugaan citra bermuatan seksual terhadap anak perempuan berusia 11 hingga 13 tahun yang diduga dihasilkan menggunakan kecerdasan buatan Grok, London, Kamis.
IWF menyebut temuan tersebut berupa gambar anak perempuan bertelanjang dada dan diseksualisasi yang beredar di sebuah forum dark web. Dalam unggahan forum tersebut, para pengguna mengklaim memanfaatkan Grok untuk membuat konten visual tersebut.
Grok merupakan perangkat kecerdasan buatan milik perusahaan xAI yang didirikan oleh Elon Musk dan dapat diakses melalui situs web, aplikasi, serta platform media sosial X.
ADVERTISEMENT
.480px x 600pxSCROLL TO RESUME CONTENT
“Kami sangat khawatir dengan kemudahan dan kecepatan seseorang dalam menghasilkan materi pelecehan seksual anak yang tampak realistis menggunakan teknologi AI,” kata perwakilan IWF, Ngaire Alexander, kepada BBC.
Ia menilai perkembangan alat AI seperti Grok berpotensi membawa konten seksual berbasis kecerdasan buatan yang melibatkan anak ke ruang publik yang lebih luas.
Menurut IWF, materi yang ditemukan diklasifikasikan sebagai kategori C dalam hukum Inggris, yakni tingkat kejahatan terendah. Namun, unggahan tersebut kemudian diproses ulang menggunakan alat AI lain yang bukan buatan xAI hingga menghasilkan citra kategori A, yang merupakan tingkat kejahatan paling serius.
IWF merupakan organisasi amal yang fokus pada penghapusan materi pelecehan seksual anak di internet. Lembaga tersebut mengoperasikan layanan pengaduan serta mempekerjakan analis khusus untuk menilai aspek hukum dan tingkat keparahan konten.
IWF menegaskan gambar-gambar tersebut tidak ditemukan di platform X, melainkan beredar di forum dark web. Meski demikian, lembaga itu mengaku telah menerima sejumlah laporan terkait gambar serupa yang beredar di X, walaupun sejauh ini belum memenuhi definisi hukum sebagai materi pelecehan seksual anak.
Sebelumnya, regulator Inggris Ofcom juga telah menghubungi X dan xAI menyusul laporan bahwa Grok dapat digunakan untuk membuat gambar seksual anak serta memanipulasi foto perempuan tanpa persetujuan.
BBC melaporkan telah menemukan sejumlah unggahan di X yang memperlihatkan pengguna meminta chatbot mengubah foto asli perempuan agar tampak mengenakan pakaian minim atau ditempatkan dalam situasi seksual.
X dalam pernyataan sebelumnya menyatakan akan mengambil tindakan tegas terhadap konten ilegal, termasuk materi pelecehan seksual anak.
“Kami menghapus konten ilegal, menangguhkan akun secara permanen, serta bekerja sama dengan pemerintah dan aparat penegak hukum. Siapa pun yang menggunakan Grok untuk membuat konten ilegal akan menerima konsekuensi yang sama seperti mengunggah konten ilegal,” demikian pernyataan X.
Penulis : R9
