Malaysia dan Indonesia Blokir Grok AI karena Deepfake Eksplisit

VOXBLICK.COM - Pemerintah Malaysia dan Indonesia secara resmi memblokir akses ke layanan chatbot kecerdasan buatan Grok, milik perusahaan xAI besutan Elon Musk, setelah ditemukan kasus penyalahgunaan AI untuk menghasilkan gambar deepfake eksplisit non-konsensual. Langkah tegas ini menyusul laporan banyaknya konten bermuatan seksual yang dibuat tanpa izin menggunakan fitur gambar Grok, dan beredar di platform daring sejak pertengahan Mei 2024.

Blokir dilakukan oleh Kominfo di Indonesia dan Malaysian Communications and Multimedia Commission (MCMC) di Malaysia setelah hasil investigasi awal menunjukkan tingginya potensi pelanggaran terhadap undang-undang perlindungan data, privasi, dan

kesusilaan digital. Grok, yang baru saja diluncurkan di sejumlah negara Asia Tenggara pada April 2024, langsung menuai perhatian setelah sejumlah pengguna memperingatkan adanya fitur text-to-image yang dapat dimanipulasi untuk membuat gambar deepfake tanpa persetujuan pihak terkait.

Akses Grok Dibatasi, Pemerintah Tegaskan Prioritas Perlindungan Data

Dalam pernyataan resminya, Kominfo menyebutkan, “Pemutusan akses terhadap Grok AI dilakukan sebagai upaya preventif untuk melindungi masyarakat dari dampak negatif penyebaran konten deepfake eksplisit yang melanggar hak privasi dan norma hukum di

Indonesia.” Pihak MCMC di Malaysia juga menegaskan bahwa tindakan serupa diambil demi menegakkan prinsip perlindungan konsumen dan mencegah penyalahgunaan teknologi AI untuk tujuan tidak etis.

Pemerintah kedua negara juga telah menghubungi pihak pengelola Grok dan meminta agar fitur text-to-image segera diperbaiki serta menerapkan kontrol yang lebih ketat sebelum layanan dapat diakses kembali oleh publik.

Hingga saat ini, pihak xAI belum memberikan tanggapan resmi terkait permintaan tersebut.

Fitur Deepfake Eksplisit dan Risiko Penyalahgunaan AI

Grok AI dikenal sebagai salah satu chatbot generatif yang dilengkapi dengan fitur pembuat gambar berbasis teks.

Namun, sejak peluncurannya di Asia Tenggara, sejumlah pihak mengamati bahwa fitur ini dapat digunakan untuk membuat konten visual manipulatif, termasuk gambar eksplisit non-konsensual yang menyerupai individu nyata.

• Menurut laporan Digital Rights Watch Asia, setidaknya ada 130 laporan pembuatan gambar deepfake eksplisit di Indonesia dan 60 kasus serupa di Malaysia dalam dua minggu terakhir.
• Lembaga perlindungan konsumen dan komunitas digital di kedua negara menyuarakan kekhawatiran soal minimnya filter atau sistem verifikasi pada layanan Grok.
• Ahli keamanan siber dari Universitas Malaya menyebut, “Teknologi deepfake semakin mudah diakses dan berpotensi disalahgunakan, terutama jika fitur AI tidak diawasi secara ketat.”

Blokir terhadap Grok AI juga didukung oleh sejumlah organisasi masyarakat sipil yang bergerak di bidang hak digital dan perlindungan perempuan, mengingat mayoritas korban pembuatan deepfake eksplisit berasal dari kelompok rentan.

Dampak dan Implikasi Lebih Luas terhadap Regulasi AI di Asia Tenggara

Kasus pemblokiran Grok AI di Malaysia dan Indonesia menyoroti urgensi pembentukan regulasi teknologi kecerdasan buatan yang lebih komprehensif di kawasan Asia Tenggara.

Pemerintah di kedua negara telah mulai merancang aturan khusus terkait tata kelola layanan AI, termasuk kewajiban penyedia platform untuk:

• Memastikan adanya filter dan verifikasi konten otomatis pada fitur berbasis AI.
• Menetapkan standar akuntabilitas atas penyalahgunaan dan pelanggaran privasi.
• Menyediakan kanal pelaporan dan mekanisme penanganan konten ilegal secara cepat.

Selain itu, peristiwa ini menjadi peringatan bagi seluruh pelaku industri teknologi di kawasan agar mengedepankan prinsip kehati-hatian dan etika dalam pengembangan produk berbasis AI.

Banyak pengamat menilai, kecepatan inovasi AI harus diimbangi dengan regulasi adaptif dan kolaborasi antar-negara, khususnya dalam isu perlindungan data pribadi dan hak digital masyarakat.

Dengan langkah tegas dari Malaysia dan Indonesia, diskursus mengenai tata kelola dan pengawasan teknologi AI di Asia Tenggara kini memasuki babak baru, yang berpotensi membentuk standar perlindungan digital di tingkat regional maupun global.

VOXBLICK

Apa Reaksi Anda?

Suka 0

Tidak Suka 0

Cinta 0

Lucu 0

Marah 0

Sedih 0

Wow 0