AI Pornografi Bertebaran, IWF Sebut Bocil Jadi Target Utama

Sekelompok pemerhati anak mengklaim kecerdasan buatan (AI) memicu meningkatnya kasus pelecehan seksual anak.

Kelompok pengawas Internet Watch Foundation (IWF) mengatakan bahwa pembuatan dan pendistribusianpornografi yang dihasilkan AI juga menjadi semakin canggih.

Berbeda dengan masa lalu, gambar-gambar dan video-video ini kini masuk ke platform-platform daring publik dan bukan lagi ke Dark Web, dunia internet yang hanya dapat diakses melalui peramban-peramban khusus seperti Tor.

Meningkatnya fotorealisme visual yang dihasilkan AI membuat pihak berwenang dan lembaga pengawas kesulitan untuk mengetahui apakah ini adalah gambar anak sungguhan yang membutuhkan bantuan, suatu situasi yang dijelaskan oleh seorang analis IWF sebagai 'titik kritis'.

Yang membuat banyak orang waspada adalah bahwa hanya dalam kurun waktu enam bulan terakhir, jumlah kejadian gambar pelecehan seksual anak yang dihasilkan oleh AI telah melampaui jumlah yang dilaporkan sepanjang tahun sebelumnya.

Dalam periode ini, IWF menindaklanjuti 74 laporan berisi konten semacam itu, meningkat tajam dari 70 laporan dalam 12 bulan sebelumnya.

Yang lebih mengganggu adalah bahwa alat AI yang menciptakan gambar-gambar ini dilatih pada konten korban nyata, sehingga mempersulit upaya mengidentifikasi kasus asli yang memerlukan intervensi, menurut Derek Ray-Hill, kepala eksekutif sementara IWF.

Beberapa bulan terakhir menunjukkan bahwa masalah ini tidak akan hilang dan malah semakin parah, kata surat kabar The Guardian mengutip pernyataannya.

Konten pelecehan tersebut beragam, mulai dari video deepfake yang tampak nyata hingga gambar anak-anak berpakaian yang telah diubah dan tidak senonoh.

Lebih dari separuh materi yang ditandai dihosting di server di Rusia dan Amerika Serikat, selain Jepang dan Belanda, menurut IWF.

Berita yang meresahkan ini muncul di tengah meningkatnya kritik terhadap aplikasi media sosial karena menawarkan tempat yang aman bagi para pelaku pelecehan dan pemerasan seksual.

Pengguna di platform seperti Instagram diperas setelah ditipu agar berbagi gambar intim, menurut laporan Guardian.

Platform berbagi gambar milik Meta dilaporkan meluncurkan langkah-langkah untuk memerangi kejahatan semacam itu.

Platform ini akan secara otomatis mengaburkan gambar telanjang yang dikirim melalui pesan langsung dan memperingatkan pengguna agar tidak membukanya. Mereka juga akan memiliki opsi untuk memblokir atau melaporkan pengirim gambar tersebut.

Fitur ini akan diaktifkan secara default untuk akun remaja sementara orang dewasa dapat memilih untuk bergabung.