Hidup McMahonReporter teknologi
Gambar GettyPemerintah Inggris akan mengizinkan perusahaan teknologi dan badan amal keselamatan anak untuk secara proaktif menguji alat kecerdasan buatan untuk memastikan mereka tidak dapat membuat gambar pelecehan seksual terhadap anak.
Amandemen terhadap RUU Kejahatan dan Perpolisian yang diumumkan pada hari Rabu akan memungkinkan “penguji resmi” untuk menilai kemampuan model dalam menghasilkan materi pelecehan seksual terhadap anak (CSAM) sebelum dibebaskan.
Menteri Teknologi Liz Kendall mengatakan langkah-langkah tersebut akan “memastikan sistem AI dapat dibuat aman dari sumbernya” – meskipun beberapa aktivis berpendapat bahwa masih banyak hal yang perlu dilakukan.
Hal ini terjadi ketika Internet Watch Foundation (IWF) mengatakan jumlah laporan CSAM terkait AI meningkat dua kali lipat selama setahun terakhir.
Badan amal tersebut, salah satu dari sedikit badan amal di dunia yang memiliki izin untuk secara aktif mencari konten pelecehan anak secara online, mengatakan telah menghapus 426 materi yang dilaporkan antara Januari dan Oktober 2025.
Jumlah ini naik dari 199 pada periode yang sama pada tahun 2024, katanya.
Kepala eksekutifnya, Kerry Smith, menyambut baik usulan pemerintah, dengan mengatakan bahwa usulan tersebut akan melanjutkan upaya jangka panjang untuk memerangi CSAM online.
“Alat AI telah membuat para penyintas dapat menjadi korban lagi hanya dengan beberapa klik, memberikan para penjahat kemampuan untuk membuat materi pelecehan seksual terhadap anak-anak yang canggih dan fotorealistik dalam jumlah yang berpotensi tak terbatas,” katanya.
“Pengumuman hari ini bisa menjadi langkah penting untuk memastikan produk AI aman sebelum dirilis.”
Rani Govender, manajer kebijakan online keselamatan anak di NSPCC, menyambut baik langkah-langkah yang mendorong perusahaan untuk memiliki akuntabilitas dan pengawasan yang lebih besar terhadap model dan keselamatan anak mereka.
“Tetapi untuk membuat perbedaan nyata bagi anak-anak, hal ini tidak bisa menjadi pilihan,” katanya.
“Pemerintah harus memastikan bahwa ada kewajiban wajib bagi pengembang AI untuk menggunakan ketentuan ini sehingga perlindungan terhadap pelecehan seksual terhadap anak merupakan bagian penting dari desain produk.”
‘Memastikan keselamatan anak’
Pemerintah mengatakan usulan perubahan undang-undang tersebut juga akan membekali pengembang AI dan badan amal untuk memastikan model AI memiliki perlindungan yang memadai terhadap pornografi ekstrem dan gambar intim non-konsensual.
Pakar dan organisasi keselamatan anak telah sering memperingatkan bahwa alat AI yang dikembangkan, sebagian, menggunakan konten daring yang luas dan dalam jumlah besar, digunakan untuk menciptakan gambaran pelecehan yang sangat realistis terhadap anak-anak atau orang dewasa yang tidak memberikan persetujuan.
Beberapa, termasuk IWF dan badan amal keselamatan anak Thorn, mengatakan bahwa hal ini berisiko membahayakan upaya pengawasan materi tersebut karena mempersulit identifikasi apakah konten tersebut asli atau buatan AI.
Para peneliti memperkirakan adanya peningkatan permintaan terhadap gambar-gambar ini secara online. khususnya di web gelapdan beberapa sedang diciptakan oleh anak-anak.
Awal tahun ini, Kementerian Dalam Negeri mengatakan Inggris akan menjadi negara pertama di dunia yang melarang kepemilikan, pembuatan, atau distribusi alat AI yang dirancang untuk membuat materi pelecehan seksual terhadap anak (CSAM), dengan hukuman hingga lima tahun penjara.
Kendall mengatakan pada hari Rabu bahwa “dengan memberdayakan organisasi-organisasi tepercaya untuk meneliti model AI mereka, kami memastikan keselamatan anak dirancang ke dalam sistem AI, bukan hanya sekedar renungan”.
“Kami tidak akan membiarkan kemajuan teknologi melampaui kemampuan kami dalam menjaga keamanan anak-anak,” katanya.
Menteri Perlindungan Lingkungan Hidup Jess Phillips mengatakan langkah-langkah tersebut juga berarti “alat AI yang sah tidak dapat dimanipulasi untuk menghasilkan materi yang kotor dan sebagai hasilnya, lebih banyak anak akan terlindungi dari predator”.
