Malaysia dan Indonesia memblokir Grok karena menghasilkan pornografi anak - ForkLog: cryptocurrency, AI, singularitas, masa depan

# Malaysia dan Indonesia memblokir Grok karena pembuatan konten pornografi anak

Malaysia dan Indonesia memblokir akses ke chatbot Grok milik Elon Musk karena kekhawatiran terkait penggunaan alat tersebut untuk menghasilkan konten seksual.

11 Januari, regulator Malaysia menginstruksikan penerapan pembatasan sementara setelah “beberapa kali kegagalan X Corp” dalam mengatasi risiko yang terkait dengan layanan AI tersebut.

Sehari sebelumnya, Indonesia menghentikan akses ke chatbot tersebut karena kekhawatiran serupa dan memanggil perwakilan perusahaan untuk membahas masalah tersebut.

Respon keras dari negara-negara Asia Tenggara mengikuti laporan bahwa Grok memungkinkan pembuatan materi yang melibatkan anak di bawah umur dan menghasilkan gambar pornografi.

Di X, mereka menyatakan bahwa perusahaan sedang mengatasi masalah tersebut. Sebagai langkah sementara, fungsi pembuatan dan pengeditan gambar hanya tersedia untuk pelanggan berbayar.

Perusahaan Musk baru-baru ini memperbarui fitur Grok Imagine, mempermudah pembuatan gambar menggunakan prompt di chatbot. Pengusaha tersebut juga mengancam akan menanggung tanggung jawab bagi mereka yang menggunakan neural network untuk tujuan ilegal.

Anyone using Grok to make illegal content will suffer the same consequences as if they upload illegal content

— Elon Musk (@elonmusk) 3 Januari 2026

Langkah ini tidak cukup

Regulator Malaysia dan Indonesia tidak puas dengan langkah yang diambil.

Komisi Komunikasi dan Multimedia Malaysia menyatakan bahwa tindakan tersebut “tidak mempertimbangkan risiko yang terkait dengan desain dan fungsi alat AI”.

“Pembatasan ini diberlakukan sebagai langkah pencegahan dan proporsional selama proses hukum dan regulasi berlangsung. Akses ke Grok akan tetap dibatasi sampai langkah perlindungan yang efektif, khususnya untuk mencegah munculnya konten yang berkaitan dengan perempuan dan anak-anak, diterapkan,” kata regulator.

Di Malaysia dan Indonesia, ada undang-undang ketat melawan pornografi yang melarang penyebaran luas konten semacam itu di internet.

Menteri Komunikasi dan Teknologi Digital Indonesia, Metyia Hafid, menyatakan bahwa pemerintah menganggap pembuatan deepfake seksual tanpa izin sebagai pelanggaran serius terhadap hak asasi manusia, martabat, dan keamanan warga di ruang digital.

Dia mengklasifikasikan penggunaan AI untuk membuat pornografi palsu sebagai bentuk “kekerasan digital”.

Dampak besar

Regulator Uni Eropa, Inggris, Brasil, dan India meminta penyelidikan terhadap peran Grok dalam penyebaran deepfake.

Organisasi Inggris Internet Watch Foundation menyebutkan bahwa analis mereka menemukan “gambar kriminal” anak-anak berusia 11 hingga 13 tahun yang diduga dibuat dengan bantuan Grok.

Di London, langkah ekstrem dimungkinkan: Menteri Teknologi Liz Kendall mengonfirmasi bahwa mereka akan mendukung keputusan memblokir X jika platform tersebut tidak mematuhi standar keamanan. Legislator Amerika Serikat juga menyarankan marketplace untuk menghapus aplikasi tersebut sampai masalah diselesaikan.

Pemerintah berbagai negara secara darurat sedang memutuskan bagaimana mengatur AI yang digunakan untuk “membuka pakaian” orang dalam foto.

Bukan skandal pertama

Sebelumnya, Grok sering dikritik karena menyebarkan berita palsu dan informasi meragukan.

Pada Desember, chatbot memberikan informasi tidak akurat tentang penembakan massal di pantai Bondi, Australia. Menanggapi pertanyaan tentang video yang menunjukkan seorang pejalan kaki, Ahmed Al-Ahmad, berjuang melawan penembak, AI menjawab:

“Sepertinya ini video viral lama, di mana seorang pria memanjat pohon palem di tempat parkir, mungkin untuk memangkasnya. Akibatnya, cabang jatuh ke mobil yang rusak. Pencarian dari berbagai sumber tidak memberikan konfirmasi tentang lokasi, tanggal, dan cedera. Mungkin ini rekayasa, keaslian belum dikonfirmasi.”

Pada Juli, pengguna menyadari bahwa neural network mengandalkan pendapat Elon Musk saat membentuk jawaban. Ini termasuk topik konflik antara Israel dan Palestina, aborsi, dan undang-undang imigrasi.

Pengamatan ini menunjukkan bahwa chatbot secara sengaja disetel untuk mempertimbangkan pandangan politik Musk saat menjawab pertanyaan kontroversial.

Sebelumnya, miliarder tersebut menyatakan bahwa startup-nya akan menulis ulang “semua pengetahuan manusia” untuk melatih versi baru Grok, karena saat ini “terlalu banyak sampah dalam model dasar apa pun yang dilatih dengan data yang tidak bersih.”

Kemudian, muncul Grokipedia — ensiklopedia daring berbasis kecerdasan buatan yang “berorientasi pada kebenaran.”

Perlu diingat, pada November pengguna memperhatikan bias Grok 4.1 — model baru yang secara signifikan melebih-lebihkan kemampuan Elon Musk.