X Blokir Fitur Kontroversial Grok AI karena Tekanan Global
Beritadunia.id — Platform media sosial X menghentikan kemampuan Grok AI untuk membuat atau mengedit gambar telanjang. Langkah ini muncul setelah regulator dan pemerintah dari berbagai negara menekan X. Mereka menyoroti risiko penyalahgunaan deepfake seksual dan pelanggaran hukum.
Grok sebelumnya memungkinkan pengguna mengubah foto orang nyata agar tampak telanjang atau seksual. Fitur ini dikenal sebagai “spicy mode”. Namun, fitur ini sering disalahgunakan.
Tekanan dari Beberapa Negara
Beberapa negara bereaksi cepat terhadap Grok:
- Indonesia dan Malaysia memblokir akses karena potensi konten pornografi.
- India meminta X menghapus konten vulgar dan mengancam sanksi hukum.
- Inggris mulai investigasi karena konten Grok bisa melanggar hukum perlindungan anak.
Akibat tekanan ini, X harus menyesuaikan fitur Grok agar sesuai hukum.
Respons X dan Pembatasan Fitur
X mengumumkan pembatasan teknis:
- Memblokir pengeditan gambar telanjang, termasuk bikini dan pakaian dalam.
- Mengaktifkan geoblocking untuk negara yang melarang konten ini.
- Membatasi akses fitur bagi pengguna berbayar untuk meningkatkan akuntabilitas.
Selain itu, tim keamanan X menegaskan bahwa semua pengguna terkena pembatasan, termasuk akun berbayar. Tujuannya agar fitur sulit disalahgunakan.
Alasan Tekanan Global
Tekanan muncul karena banyak pengguna menyalahgunakan fitur ini. Ribuan gambar eksplisit dibuat tanpa izin subjek.
Di Amerika Serikat, Jaksa Agung California membuka penyelidikan terkait penyebaran gambar non-konsensual. Di Inggris, regulator media Ofcom menindak konten seksual ilegal.
Oleh karena itu, kasus ini menegaskan bahwa teknologi AI harus diatur dan diawasi untuk mencegah pelanggaran hukum dan pelecehan.
Tantangan X dalam Penegakan Kebijakan
Meskipun X membatasi Grok, risiko masih ada:
- Fitur Grok tetap bisa diakses lewat web atau aplikasi pihak ketiga.
- Pengguna di beberapa wilayah dapat membuka fitur sebelum geoblock aktif sepenuhnya.
- Algoritma AI belum sepenuhnya mencegah penyalahgunaan.
Sebagai hasilnya, para ahli menyarankan X bekerja sama dengan toko aplikasi seperti Apple dan Google agar aplikasi Grok aman dan sesuai hukum.
Implikasi bagi Dunia AI
Kasus Grok menyoroti tantangan besar dalam regulasi AI:
- Hukum nasional belum siap menghadapi inovasi AI cepat.
- Perusahaan teknologi perlu bertanggung jawab atas risiko sosial.
- Etika AI menjadi isu penting saat konten AI meniru realitas tanpa izin.
Selain itu, kasus ini menjadi contoh bagaimana inovasi AI harus berjalan seiring nilai kemanusiaan dan perlindungan hak individu.
Kesimpulan
X memblokir fitur Grok untuk mencegah penyalahgunaan dan risiko hukum. Oleh karena itu, teknologi AI harus diatur secara etis dan legal. Ke depan, regulasi lebih ketat dan pengawasan pemerintah serta platform teknologi sangat diperlukan.