UNICEF Desak Negara Larang Konten AI Kekerasan Seksual Anak

VOXBLICK.COM - UNICEF menyerukan pemerintah di seluruh dunia untuk segera mengkriminalisasi pembuatan dan penyebaran konten kekerasan seksual anak yang dihasilkan oleh kecerdasan buatan (AI). Desakan ini dikeluarkan menyusul meningkatnya kekhawatiran atas penyalahgunaan teknologi AI untuk menciptakan materi eksploitasi seksual anak (CSAM) yang semakin sulit dilacak dan diberantas dengan pendekatan hukum saat ini.

Dalam laporan terbarunya yang dirilis pada Juni 2024, UNICEF menyoroti lonjakan pesat dalam pembuatan gambar, video, hingga deepfake yang melibatkan anak-anak menggunakan alat berbasis AI generatif.

Organisasi internasional tersebut menegaskan bahwa celah hukum di banyak negara membuat pelaku dapat memproduksi konten ilegal tanpa takut jerat pidana, karena hukum positif umumnya hanya mengatur konten berbasis foto atau video nyata, bukan hasil rekayasa digital.

UNICEF: Kriminalisasi Konten AI Kekerasan Seksual Anak Harus Jadi Prioritas

Direktur Eksekutif UNICEF, Catherine Russell, menegaskan urgensi kebijakan baru untuk melindungi anak-anak dari bentuk kekerasan seksual berbasis digital.

"Teknologi AI telah membuka pintu bagi pelaku kejahatan untuk menciptakan konten kekerasan seksual terhadap anak tanpa melibatkan korban nyata dalam proses pembuatan, namun dampaknya tetap merusak," ujar Russell dalam rilis resminya.

UNICEF meminta pemerintah untuk:

• Mengadopsi undang-undang yang secara eksplisit melarang pembuatan, distribusi, dan kepemilikan konten kekerasan seksual anak yang dihasilkan oleh AI atau teknologi digital lainnya.
• Memperkuat kerja sama internasional dalam penegakan hukum terkait kejahatan seksual anak berbasis digital.
• Meningkatkan edukasi dan literasi digital, khususnya kepada anak dan keluarga, mengenai risiko serta modus kejahatan seksual di dunia maya.

Ancaman Nyata di Balik Inovasi AI

Badan PBB tersebut mengutip data dari Internet Watch Foundation (IWF) yang mencatat peningkatan laporan konten eksploitasi seksual anak berbasis AI hingga lebih dari 1.000 kasus dalam kurun 2023, meningkat lebih dari 80% dibanding tahun sebelumnya.

Fenomena ini terjadi karena kemudahan akses dan kemampuan AI dalam menghasilkan gambar atau video yang tampak realistis, bahkan tanpa menggunakan foto asli anak-anak.

Sementara itu, laporan Europol pada April 2024 juga menggarisbawahi risiko penyalahgunaan AI, termasuk pembuatan deepfake anak yang semakin sulit dibedakan dari rekaman nyata.

Hal ini menghambat penegakan hukum, karena banyak yurisdiksi memerlukan bukti bahwa korban benar-benar ada dalam materi tersebut.

Implikasi Regulasi dan Perlindungan Anak di Era Digital

Desakan UNICEF menandai babak baru dalam diskusi global tentang regulasi teknologi dan perlindungan anak. Jika direspons secara serius, langkah ini dapat membawa beberapa perubahan besar:

• Perubahan Kebijakan Hukum: Negara-negara perlu menyesuaikan undang-undang agar mencakup definisi eksploitasi seksual anak secara digital, termasuk hasil rekayasa AI, bukan hanya dokumentasi nyata.
• Teknologi Deteksi & Moderasi: Industri teknologi didorong untuk mengembangkan sistem deteksi otomatis dan moderasi yang mampu mengenali konten bermuatan kekerasan seksual anak, termasuk yang dihasilkan AI, secara efektif.
• Kolaborasi Global: Tantangan lintas batas memerlukan kerja sama internasional yang erat, baik dalam pertukaran data, pelatihan aparat, hingga harmonisasi standar hukum.
• Peningkatan Kesadaran Publik: Literasi digital menjadi kunci, agar masyarakat, terutama anak-anak dan orang tua, paham risiko serta cara perlindungan diri dari kejahatan siber berbasis AI.

Dorongan UNICEF ini juga menimbulkan diskusi etis dan teknis di sektor teknologi, bagaimana menjaga inovasi AI agar tetap bermanfaat tanpa menjadi alat kejahatan baru.

Di sisi lain, keberanian negara untuk mengatur ranah digital yang berkembang pesat menjadi penentu efektif atau tidaknya perlindungan anak di masa depan.

Seruan UNICEF agar negara-negara segera mengadopsi regulasi khusus terkait konten kekerasan seksual anak berbasis AI menandai urgensi perlindungan anak di tengah laju inovasi teknologi.

Dengan penyesuaian hukum dan penguatan kerja sama global, harapan untuk menciptakan ruang digital yang aman bagi anak-anak semakin terbuka.

VOXBLICK

Apa Reaksi Anda?

Suka 0

Tidak Suka 0

Cinta 0

Lucu 0

Marah 0

Sedih 0

Wow 0