Uni Eropa Selidiki X Milik Elon Musk Terkait Deepfake Seksual AI Grok

Oleh VOXBLICK

Rabu, 11 Februari 2026 - 09.45 WIB

Uni Eropa Selidiki X Milik Elon Musk Terkait Deepfake Seksual AI Grok

Investigasi EU atas AI Grok X (Foto oleh Markus Winkler)

VOXBLICK.COM - Uni Eropa secara resmi memulai penyelidikan terhadap platform X, milik Elon Musk, terkait dugaan penyebaran konten deepfake seksual yang dihasilkan oleh AI Grok. Investigasi ini diumumkan oleh Komisi Eropa pada awal Juni 2024, menyusul laporan peningkatan distribusi gambar dan video manipulatif bermuatan seksual yang beredar di platform tersebut.

Penyelidikan ini melibatkan X Corp, perusahaan induk X (sebelumnya Twitter), dan secara khusus menyoroti peran kecerdasan buatan AI Grok yang dikembangkan oleh xAIstartup AI yang juga dimiliki Elon Musk.

Otoritas Eropa menyoroti potensi penyalahgunaan teknologi AI generatif dalam memproduksi konten deepfake, terutama yang bersifat eksplisit dan dapat merusak reputasi maupun privasi individu.

Latar Belakang Investigasi

Kasus ini bermula dari laporan beberapa organisasi perlindungan data dan pengawasan digital di Eropa yang menemukan lonjakan konten deepfake seksual di X selama kuartal pertama 2024. Konten tersebut diyakini dihasilkan melalui pemanfaatan AI

generatif, dengan Grok sebagai salah satu teknologi yang menjadi sorotan.

X Corp diduga gagal menerapkan mekanisme moderasi yang memadai untuk mendeteksi dan menghapus deepfake bermuatan seksual, sehingga melanggar ketentuan Digital Services Act (DSA) Uni Eropa.

Komisi Eropa menyatakan bahwa penyebaran konten semacam ini dapat membahayakan privasi, keamanan, dan martabat individu, serta berpotensi melanggar hukum perlindungan data Eropa.

Fokus Uni Eropa: Regulasi dan Perlindungan Data

Komisi Eropa menegaskan bahwa penyelidikan ini bukan hanya soal pelanggaran konten, tetapi juga bagaimana platform digitaltermasuk yang memanfaatkan AI seperti Grokharus bertanggung jawab terhadap keamanan penggunanya.

Margrethe Vestager, Wakil Presiden Komisi Eropa, dalam konferensi pers menyampaikan:

“Platform digital wajib memastikan bahwa teknologi AI tidak menjadi alat penyebaran konten berbahaya dan melanggar hukum. Kami ingin memastikan masyarakat Eropa terlindungi dari risiko manipulasi dan penyalahgunaan data.”

Jika terbukti bersalah, X Corp dapat dikenai sanksi berat, termasuk denda hingga 6% dari pendapatan global tahunannya sesuai ketentuan DSA.

Proses investigasi ini sekaligus menjadi ujian penting untuk efektivitas regulasi digital di wilayah Uni Eropa, di tengah pesatnya adopsi teknologi AI generatif oleh platform media sosial.

Reaksi X Corp dan Elon Musk

X Corp menyatakan komitmennya untuk bekerja sama dengan otoritas Eropa dan meninjau ulang kebijakan moderasi konten.
Elon Musk, melalui akun X pribadinya, menyebut perlunya dialog terbuka antara regulator dan pelaku industri teknologi agar inovasi berjalan sejalan dengan perlindungan hak asasi manusia.
AI Grok sendiri masih dalam tahap pengembangan, namun telah digunakan secara terbatas oleh sejumlah pengguna X berbayar untuk menghasilkan teks, gambar, dan video.

Dampak dan Implikasi Lebih Luas

Penyelidikan Uni Eropa terhadap X dan AI Grok menyoroti tantangan utama dalam regulasi teknologi AI generatif. Isu ini berdampak pada beberapa aspek penting:

Industri Teknologi: Perusahaan AI dan platform digital dihadapkan pada tuntutan untuk meningkatkan transparansi, keamanan, dan akuntabilitas sistem mereka.
Regulasi Konten Digital: Kasus ini mengakselerasi kebutuhan pembaruan hukum terkait moderasi konten dan perlindungan data di era AI, baik di Eropa maupun secara global.
Kebiasaan Masyarakat: Masyarakat semakin dituntut untuk melek digital, memahami risiko manipulasi visual, dan berhati-hati dalam mengonsumsi serta membagikan konten daring.
Ekonomi Digital: Potensi sanksi dan reputasi buruk dapat berdampak pada kepercayaan investor, pengguna, serta kelangsungan bisnis platform teknologi.

Ke depan, hasil investigasi ini akan menjadi preseden penting bagi tata kelola teknologi AI dan moderasi platform digital, khususnya dalam menghadapi ancaman deepfake seksual yang dapat terjadi lintas negara dan yurisdiksi.

Penting bagi pelaku industri, regulator, serta masyarakat untuk terus mengawasi dan beradaptasi terhadap perkembangan teknologi AI, demi memastikan inovasi berjalan sejalan dengan etika dan perlindungan hak asasi manusia di ranah digital.