ماليزيا وإندونيسيا حظرتا Grok بسبب توليد محتوى إباحي للأطفال - ForkLog: العملات الرقمية، الذكاء الاصطناعي، التفرد، المستقبل

# ماليزيا وإندونيسيا يحظران Grok بسبب توليد محتوى إباحي للأطفال

حظرت ماليزيا وإندونيسيا الوصول إلى روبوت الدردشة Grok الخاص بإيلون ماسك بسبب مخاوف من استخدام الأداة لتوليد محتوى جنسي.

في 11 يناير، أمر المنظم الماليزي بفرض قيود مؤقتة بعد «محاولات متكررة من شركة X Corp» لإزالة المخاطر المرتبطة بخدمة الذكاء الاصطناعي.

قبل يوم من ذلك، علقت إندونيسيا الوصول إلى روبوت الدردشة بسبب مخاوف مماثلة واستدعت ممثلي الشركة لمناقشة الأمر.

رد فعل الدول الآسيوية الجنوبية الشرقيّة كان صارمًا بعد تقارير تفيد بأن Grok يتيح إنشاء مواد تتضمن قاصرين وتوليد صور إباحية.

قالت شركة X إن المشكلة تُحل، وكمؤقت، تم تقييد وظيفة توليد وتحرير الصور فقط للمشتركين المدفوعين.

مؤخرًا، حدّثت شركة ماسك ميزات Grok Imagine، مما سهل إنشاء الصور باستخدام أوامر في روبوت الدردشة. وهدد رجل الأعمال بمحاسبة من يستخدم الشبكة العصبية لأغراض غير قانونية.

أي شخص يستخدم Grok لإنشاء محتوى غير قانوني سيتعرض لنفس العواقب كما لو قام بتحميل محتوى غير قانوني

— إيلون ماسك (@elonmusk) 3 يناير 2026

هذه الإجراءات غير كافية

لم تكن الجهات التنظيمية في ماليزيا وإندونيسيا راضية عن التدابير المتخذة.

قالت لجنة الاتصالات والوسائط المتعددة الماليزية إن الإجراءات «لا تأخذ في الاعتبار المخاطر المرتبطة بتصميم ووظائف أداة الذكاء الاصطناعي».

«يتم فرض القيود كإجراء وقائي ومتوازن أثناء إجراء الإجراءات القانونية والتنظيمية. ستظل الوصول إلى Grok محدودًا حتى تظهر تدابير فعالة للحماية، خاصة لمنع ظهور محتوى مرتبط بالنساء والأطفال»، حسبما صرح المنظم.

تتمتع ماليزيا وإندونيسيا بقوانين صارمة ضد الإباحية، تحظر انتشار مثل هذا المحتوى على الإنترنت.

قالت وزيرة الاتصالات والتكنولوجيا الرقمية في إندونيسيا، ميتيا حافيد، إن الحكومة تعتبر إنشاء صور جنسية مزيفة بدون موافقة انتهاكًا خطيرًا لحقوق الإنسان وكرامة وأمن المواطنين في الفضاء الرقمي.

وصف استخدام الذكاء الاصطناعي لإنشاء صور مزيفة إباحية بأنه شكل من «العنف الرقمي».

تداعيات واسعة النطاق

تطالب منظمات تنظيمية في الاتحاد الأوروبي، المملكة المتحدة، البرازيل والهند بالتحقيق في دور Grok في نشر الصور المزيفة.

قالت منظمة الإنترنت ووتش فاونديشن البريطانية إن محلليها اكتشفوا «صورًا إجرامية» لأطفال تتراوح أعمارهم بين 11 و13 عامًا، يُعتقد أنها أنشئت باستخدام Grok.

اقترحت لندن اتخاذ إجراءات صارمة: أكدت وزيرة التكنولوجيا ليز كيندال أنها ستدعم قرار حظر X إذا لم تلتزم المنصة بمعايير السلامة. كما اقترح المشرعون الأمريكيون حذف التطبيق من الأسواق حتى يتم حل المشكلة.

تعمل السلطات في مختلف الدول على وجه السرعة على تنظيم الذكاء الاصطناعي المستخدم في «فضح» الأشخاص في الصور.

ليست أول فضيحة

سبق أن تعرضت Grok لانتقادات متكررة لنشرها معلومات زائفة ومشبوهة.

في ديسمبر، قدم روبوت الدردشة معلومات غير موثوقة عن إطلاق نار جماعي على شاطئ بوندي في أستراليا. وردًا على سؤال حول فيديو يظهر رجلاً عشوائيًا يُدعى أحمد الأحمد وهو يقاتل المهاجم، أجاب الذكاء الاصطناعي:

«يبدو أن هذا فيديو قديم انتشر على الإنترنت، يظهر رجلاً يتسلق نخلة في موقف للسيارات، ربما لقصها. وسقطت الفرع على سيارة متضررة. البحث في مصادر مختلفة لم يثبت مكان الحادث أو تاريخه أو الإصابات. قد يكون تمثيلًا، ولم يتم تأكيد صحته».

في يوليو، لاحظ المستخدمون أن الشبكة العصبية تعتمد على رأي إيلون ماسك عند تكوين الإجابات. شمل ذلك أيضًا مواضيع مثل الصراع بين إسرائيل وفلسطين، والإجهاض، وتشريعات الهجرة.

تشير الملاحظات إلى أن روبوت الدردشة تم ضبطه عمدًا ليأخذ في الاعتبار الآراء السياسية لماسك عند الإجابة على الأسئلة المثيرة للجدل.

قال الملياردير سابقًا إن شركته الناشئة ستعيد كتابة «كل المعرفة البشرية» لتدريب نسخة جديدة من Grok، لأنه اليوم يُستخدم «الكثير من القمامة في أي نموذج أساسي مدرب على بيانات غير مصححة».

لاحقًا، ظهرت Grokipedia — موسوعة إلكترونية تعتمد على الذكاء الاصطناعي، «تركز على الحقيقة».

تذكر أن المستخدمين لاحظوا في نوفمبر أن Grok 4.1، النموذج الجديد، قد بالغ بشكل كبير في تقدير قدرات إيلون ماسك.