Uni Eropa Buka Penyelidikan Kedua atas Fitur Pembuatan Gambar Non-Konsensual di Grok

Platform media sosial X kembali berada di bawah sorotan regulator setelah muncul laporan terkait aktivitas AI miliknya, Grok. Kali ini, otoritas perlindungan data Irlandia membuka penyelidikan baru menyusul dugaan pembuatan gambar intim tanpa persetujuan di dalam platform tersebut.

Data Protection Commission (DPC) menyatakan bahwa investigasi akan berfokus pada bagaimana X memproses data pribadi warga Uni Eropa dan Wilayah Ekonomi Eropa (EEA), termasuk data milik anak-anak. Otoritas tersebut menilai adanya potensi pelanggaran serius terkait penggunaan data untuk menghasilkan konten visual yang bersifat sensitif dan berbahaya.

Temuan awal yang menjadi dasar penyelidikan ini berasal dari laporan organisasi nirlaba asal Inggris, Center for Countering Digital Hate (CCDH). Dalam kajiannya selama periode 29 Desember hingga 9 Januari, CCDH memperkirakan sistem AI di X menghasilkan sekitar tiga juta gambar yang bersifat seksual. Dari jumlah tersebut, sekitar 23.000 gambar diduga melibatkan anak di bawah umur.

Kasus ini memperbesar tekanan terhadap X dan teknologi AI generatifnya, terutama dalam konteks perlindungan privasi dan keamanan pengguna di kawasan Eropa.

Penyelidikan Difokuskan pada Dugaan Pelanggaran GDPR

Salah satu poin utama dalam investigasi ini adalah apakah platform X telah melanggar ketentuan perlindungan data yang diatur dalam General Data Protection Regulation (GDPR). Regulasi tersebut menjadi dasar hukum perlindungan data pribadi di kawasan Eropa dan memiliki sanksi berat bagi pelanggaran yang terbukti.

Menurut pernyataan wakil komisioner dari Data Protection Commission, Graham Doyle, pihaknya telah berkomunikasi dengan entitas resmi X di Irlandia sejak laporan media pertama kali mencuat beberapa pekan lalu. Ia menyebut bahwa kekhawatiran muncul setelah beredar informasi mengenai kemampuan pengguna untuk meminta akun AI @Grok menghasilkan gambar seksual dari individu nyata, termasuk anak-anak.

Dalam pernyataannya, Doyle juga merujuk pada nama resmi perusahaan X di Irlandia, yaitu X Internet Unlimited Company (XIUC), yang menjadi subjek langsung dalam proses penyelidikan tersebut.

Hasil investigasi ini akan menentukan apakah praktik yang dilakukan platform tersebut melanggar aturan pemrosesan data pribadi di bawah hukum Uni Eropa.

Investigasi Skala Besar dan Potensi Sanksi Serius bagi X

Wakil komisioner Data Protection Commission, Graham Doyle, menegaskan bahwa pihaknya bertindak sebagai otoritas pengawas utama bagi entitas X di kawasan Uni Eropa dan EEA. Karena itu, lembaganya telah memulai penyelidikan berskala besar untuk menilai apakah perusahaan tersebut mematuhi kewajiban mendasar yang diatur dalam General Data Protection Regulation (GDPR), khususnya terkait pemrosesan data pribadi dalam kasus ini.

Langkah ini berpotensi membawa konsekuensi luas bagi operasional X di seluruh Eropa. Selain itu, penyelidikan tersebut memperkuat rangkaian pemeriksaan yang sebelumnya telah dilakukan regulator Uni Eropa terhadap platform tersebut.

Pada Januari lalu, European Commission juga membuka investigasi terpisah untuk menilai apakah X melanggar ketentuan dalam Digital Services Act (DSA). Fokusnya adalah apakah platform tersebut telah melakukan penilaian risiko dan mitigasi yang memadai terhadap penggunaan Grok, termasuk potensi penyebaran konten ilegal seperti gambar eksplisit hasil AI tanpa persetujuan. Isu yang paling mengkhawatirkan adalah dugaan keterlibatan gambar anak di bawah umur.

Sementara itu, X sempat menyatakan pada pertengahan Januari bahwa mereka telah membatasi kemampuan Grok untuk mengedit foto orang nyata dengan menambahkan pakaian terbuka atau unsur vulgar. Namun, klaim tersebut diragukan. Dalam pengujian independen yang dilakukan awal bulan ini, seorang jurnalis pria melaporkan bahwa sistem AI tersebut masih mampu memodifikasi gambarnya menjadi berpakaian minim, bahkan menambahkan detail anatomi eksplisit.

Perkembangan ini semakin memperbesar tekanan terhadap X, baik dari sisi hukum maupun reputasi, di tengah pengawasan ketat regulator Eropa terhadap teknologi AI generatif.