Reddit Perketat Verifikasi Pengguna untuk Cegah Bot AI yang Menyerupai Manusia

Minggu lalu, Redditors di seluruh dunia terkejut setelah mengetahui bahwa sekelompok peneliti meluncurkan sejumlah bot bertenaga AI yang meniru manusia di subreddit "Change My View". Eksperimen berskala besar ini bertujuan untuk menguji seberapa kuat pengaruh yang dapat dimiliki oleh AI.

Bot-bot tersebut mengunggah lebih dari 1.700 komentar, mengadopsi berbagai identitas, mulai dari penyintas kekerasan hingga pandangan kontroversial, seperti pendukung anti-Black Lives Matter.

Reddit Menghadapi Dampak Serius dari Eksperimen AI yang Meniru Pengguna Manusia

Bagi Reddit, insiden ini merupakan mimpi buruk kecil. Merek Reddit sangat terkait dengan otentisitas — sebagai tempat di mana orang-orang nyata berbagi opini nyata. Jika ekosistem yang berfokus pada manusia ini terganggu oleh bot AI yang tidak jelas atau menjadi tempat yang tidak bisa dipercaya karena informasi yang berasal dari manusia palsu, ini bisa lebih dari sekadar mengancam identitas inti Reddit. Keuntungan Reddit bisa terancam, mengingat perusahaan kini menjual kontennya kepada OpenAI untuk pelatihan.

Perusahaan tersebut mengutuk "eksperimen yang tidak pantas dan sangat tidak etis" ini dan mengajukan keluhan kepada universitas yang menyelenggarakannya. Namun, eksperimen ini hanyalah salah satu dari kemungkinan banyak kasus bot AI generatif yang berpura-pura menjadi manusia di Reddit, dengan berbagai alasan, mulai dari ilmiah hingga manipulasi politik.

Langkah Reddit untuk Memastikan Keaslian Pengguna dan Mengatasi Manipulasi Bot

Untuk melindungi pengguna dari manipulasi bot dan "mempertahankan sisi kemanusiaan Reddit," perusahaan ini secara diam-diam memberikan sinyal akan ada tindakan yang akan datang — yang mungkin tidak disukai oleh pengguna yang datang ke Reddit dengan alasan lain: anonimitas.

Pada hari Senin, CEO Reddit Steve Huffman mengungkapkan dalam sebuah posting bahwa Reddit akan mulai bekerja sama dengan "berbagai layanan pihak ketiga" untuk memverifikasi keaslian pengguna. Ini merupakan langkah besar bagi platform yang selama ini hampir tidak memerlukan informasi pribadi untuk pengguna dalam membuat akun.

"Untuk menjaga agar Reddit tetap terjaga sisi kemanusiaannya dan memenuhi tuntutan regulasi yang terus berkembang, kami akan membutuhkan sedikit informasi tambahan," tulis Huffman. "Secara spesifik, kami perlu mengetahui apakah Anda seorang manusia, dan di beberapa lokasi, apakah Anda seorang dewasa. Namun, kami tidak pernah ingin mengetahui nama Anda atau identitas pribadi Anda."

Dengan pernyataan ini, Reddit menunjukkan komitmennya untuk tetap menjaga otentisitas platform, sekaligus memenuhi kebutuhan regulasi tanpa mengorbankan privasi pengguna.

Langkah Reddit dalam Verifikasi Pengguna dan Perlindungan Anak

Perusahaan media sosial telah mulai menerapkan pemeriksaan ID setelah setidaknya sembilan negara bagian di AS, serta Inggris, mengesahkan undang-undang yang mewajibkan verifikasi usia untuk melindungi anak-anak di platform mereka.

Juru bicara Reddit menolak untuk menjelaskan dalam kondisi apa saja perusahaan akan meminta pengguna untuk melewati proses verifikasi, meskipun mereka mengonfirmasi bahwa Reddit telah mengambil langkah-langkah untuk memblokir bot "buruk". Juru bicara tersebut juga tidak mengungkapkan lebih lanjut tentang layanan pihak ketiga yang akan digunakan atau jenis informasi pribadi yang harus diberikan oleh pengguna.

Banyak perusahaan saat ini mengandalkan platform verifikasi seperti Persona, Alloy, Stripe Identity, Plaid, dan Footprint, yang biasanya memerlukan ID yang dikeluarkan pemerintah untuk memverifikasi usia dan kemanusiaan. Ada juga teknologi baru yang lebih spekulatif, seperti perangkat pemindaian mata "bukti manusia" dari Sam Altman’s Tools for Humanity.

Namun, penentang pemeriksaan ID berargumen bahwa ada risiko privasi dan keamanan data terkait dengan berbagi informasi pribadi dengan platform media sosial. Ini terutama relevan untuk platform seperti Reddit, di mana orang-orang datang untuk berbagi pengalaman yang mungkin tidak akan mereka ungkapkan jika nama mereka terlampir pada konten tersebut.