Regulator Global Selidiki Grok xAI Milik Elon Musk Terkait Konten Deepfake Seksual

Sumber: Reuters | Editor: Yudho Winarto

KONTAN.CO.ID - Chatbot kecerdasan buatan Grok milik perusahaan xAI yang didirikan Elon Musk kini menghadapi sorotan dan tindakan tegas dari pemerintah serta regulator di berbagai negara.

Sejumlah otoritas menilai Grok telah digunakan untuk menghasilkan konten deepfake seksual yang melanggar hukum, sehingga memicu penyelidikan, pemblokiran, hingga tuntutan pengamanan tambahan.

Sepanjang Januari, regulator di Eropa, Asia, Amerika, dan Oseania bergerak untuk menekan penyebaran konten seksual eksplisit hasil manipulasi AI yang dinilai ilegal dan berbahaya, terutama bagi perempuan dan anak-anak.

Eropa

Komisi Eropa pada 26 Januari membuka penyelidikan terhadap Grok untuk menilai apakah chatbot tersebut menyebarkan konten ilegal, termasuk gambar seksual hasil manipulasi, di wilayah Uni Eropa.

Penyelidikan ini juga akan mengkaji apakah platform X telah melakukan penilaian dan mitigasi risiko sesuai dengan aturan layanan digital Uni Eropa.

Sebelumnya, pada 8 Januari, Komisi Eropa memperpanjang perintah kepada X untuk menyimpan seluruh dokumen internal dan data terkait Grok hingga akhir 2026.

Di Inggris, regulator media Ofcom meluncurkan penyelidikan guna menilai apakah deepfake seksual yang dihasilkan Grok melanggar kewajiban X dalam melindungi masyarakat dari konten ilegal berdasarkan kerangka Online Safety Act.

Pemerintah Prancis melaporkan konten seksual buatan Grok yang beredar di X kepada jaksa, sekaligus meminta regulator media Arcom menilai kepatuhan platform tersebut terhadap aturan Uni Eropa.

Di Jerman, Menteri Media Wolfram Weimer memperingatkan bahwa masalah ini berpotensi berkembang menjadi “industrialisasi pelecehan seksual”.

Italia melalui otoritas perlindungan data menyatakan bahwa pembuatan gambar deepfake “tanpa busana” terhadap orang nyata tanpa persetujuan dapat merupakan pelanggaran privasi serius dan dalam kondisi tertentu tergolong tindak pidana.

Sementara itu, politisi Swedia mengecam keras konten seksual buatan Grok setelah muncul laporan adanya gambar yang melibatkan wakil perdana menteri Swedia.

Asia

Kementerian Teknologi Informasi India pada 2 Januari mengirimkan surat resmi kepada X terkait dugaan pembuatan dan penyebaran gambar seksual cabul melalui Grok. Pemerintah India memerintahkan penghapusan konten tersebut dan meminta laporan tindakan dalam waktu 72 jam.

Pemerintah Jepang juga menyelidiki penggunaan Grok dan menyatakan akan mempertimbangkan seluruh opsi untuk mencegah pembuatan gambar yang tidak pantas.

Di Indonesia, Kementerian Komunikasi dan Digital memblokir akses ke Grok.

Menteri Komunikasi dan Digital Meutya Hafid menyatakan langkah tersebut diambil untuk melindungi perempuan dan anak-anak dari konten pornografi palsu berbasis AI, sejalan dengan ketatnya undang-undang antipornografi di Indonesia.

Malaysia sempat memulihkan akses Grok setelah X menerapkan langkah pengamanan tambahan, menurut regulator komunikasi setempat pada 23 Januari.

Filipina juga akan membuka kembali akses Grok setelah pengembangnya berjanji menghapus fitur manipulasi gambar yang memicu kekhawatiran terkait keselamatan anak, kata unit investigasi kejahatan siber negara tersebut pada 21 Januari.

Amerika

Di Amerika Serikat, Gubernur California dan Jaksa Agung negara bagian tersebut pada 14 Januari menuntut penjelasan dari xAI terkait penyebaran gambar seksual nonkonsensual di platform X.

Di Kanada, otoritas perlindungan privasi memperluas penyelidikan terhadap X setelah muncul laporan bahwa Grok menghasilkan deepfake seksual tanpa persetujuan.

Pemerintah Brasil bersama jaksa federal memberi tenggat 30 hari kepada xAI untuk mencegah penyebaran konten seksual palsu melalui chatbot tersebut.

Oseania

Regulator keamanan daring Australia, eSafety, pada 7 Januari menyatakan sedang menyelidiki gambar deepfake seksual “tanpa busana digital” yang dihasilkan Grok.

Otoritas tersebut menilai konten dewasa berdasarkan skema penyalahgunaan berbasis gambar, serta menyebut contoh yang melibatkan anak-anak yang ditinjau sejauh ini belum memenuhi ambang batas hukum sebagai materi pelecehan seksual anak.

Respons xAI

xAI pada 14 Januari menyatakan telah membatasi fitur pengeditan gambar Grok dan memblokir pengguna berdasarkan lokasi dari pembuatan gambar orang dengan pakaian minim di “yurisdiksi yang melarangnya”, meski tidak merinci negara yang dimaksud.

Sebelumnya, xAI juga telah membatasi fitur pembuatan dan pengeditan gambar Grok hanya untuk pelanggan berbayar.