Малайзія та Індонезія заблокували Grok через генерацію дитячої порнографії - ForkLog: криптовалюти, ШІ, сингулярність, майбутнє

# Малайзія та Індонезія заблокували Grok через генерацію дитячої порнографії

Малайзія та Індонезія заблокували доступ до чат-бота Grok Ілона Маска через побоювання щодо використання інструменту для створення сексуального контенту.

11 січня малайзійський регулятор наказав запровадити тимчасові обмеження після «неодноразових невдач X Corp» у усуненні ризиків, пов’язаних з ІІ-сервісом.

За день до цього Індонезія призупинила доступ до чат-бота через аналогічні побоювання та викликала представників компанії для обговорення питання.

Жорстка реакція країн Південно-Східної Азії сталася після повідомлень про те, що Grok дозволяє створювати матеріали з участю неповнолітніх та генерувати порнографічні зображення.

В X заявили, що компанія усуває проблему. В якості тимчасової міри функцію генерації та редагування зображень залишили доступною лише для платних підписників.

Компанія Маска нещодавно оновила функції Grok Imagine, спростивши створення зображень за допомогою промптів у чат-боті. Підприємець, у свою чергу, пригрозив відповідальністю тим, хто використовує нейромережу в незаконних цілях.

Anyone using Grok to make illegal content will suffer the same consequences as if they upload illegal content

— Elon Musk (@elonmusk) January 3, 2026

Цих заходів недостатньо

Регулятори Малайзії та Індонезії виявилися незадоволені прийнятими заходами.

Малайзійська комісія з комунікацій і мультимедіа заявила, що дії «не враховують ризики, пов’язані з дизайном і функціонуванням ІІ-інструменту».

«Обмеження вводиться як превентивна та пропорційна міра під час проведення юридичних і нормативних процедур. Доступ до Grok залишатиметься обмеженим до появи ефективних заходів захисту, зокрема для запобігання появі контенту, пов’язаного з жінками та дітьми», — заявив регулятор.

У Малайзії та Індонезії діють суворі закони проти порнографії, які забороняють широке поширення подібного контенту в інтернеті.

Міністр зв’язку та цифрових технологій Індонезії Мейтія Хафід заявила, що уряд розглядає створені без згоди сексуальні дипфейки як серйозне порушення прав людини, гідності та безпеки громадян у цифровому просторі.

Вона класифікує використання ІІ для створення фейкової порнографії як форму «цифрового насильства».

Масштабні наслідки

Регулятори ЄС, Великобританії, Бразилії та Індії вимагають розслідувати роль Grok у поширенні дипфейків.

Британська організація Internet Watch Foundation зазначила, що її аналітики виявили «кримінальні зображення» дітей віком від 11 до 13 років, які ймовірно створені за допомогою Grok.

У Лондоні допустили крайні заходи: міністр технологій Ліз Кендалл підтвердила, що підтримує рішення про блокування X, якщо платформа не дотримуватиметься норм безпеки. Американські законодавці також запропонували маркетплейсам видалити додаток до усунення проблеми.

Влади різних країн у екстреному режимі вирішують, як регулювати ІІ, який використовується для «роздягнення» людей на фото.

Не перший скандал

Раніше Grok неодноразово критикували за поширення фейків і сумнівної інформації.

У грудні чат-бот надавав недостовірну інформацію про масову стрілянину на пляжі Бонді в Австралії. У відповідь на питання про відео, на якому випадковий перехожий Ахмед аль-Ахмед боровся зі стрільцем, ІІ відповів наступне:

«Здається, це старий вірусний ролик, на якому чоловік залазить на пальму на парковці, можливо, щоб підстригти її. В результаті гілка впала на пошкоджений автомобіль. Пошук за різними джерелами не дав підтверджених даних про місце, дату та травми. Можливо, це інсценування, автентичність не підтверджена».

У липні користувачі помітили, що нейромережа орієнтується на думку Ілона Маска при формуванні відповідей. Це стосувалося також теми конфлікту між Ізраїлем і Палестиною, абортів і імміграційного законодавства.

Спостереження дозволяють припустити, що чат-бот спеціально налаштували враховувати політичні погляди Маска при відповідях на спірні питання.

Раніше мільярдер заявив, що його стартап перепише «усі людські знання» для навчання нової версії Grok, оскільки сьогодні використовується «занадто багато сміття у будь-якій базовій моделі, навченої на некоректних даних».

Згодом з’явилася Grokipedia — базована на штучному інтелекті онлайн-енциклопедія, «орієнтована на правду».

Нагадаємо, у листопаді користувачі звернули увагу на упередженість Grok 4.1 — нова модель значно переоцінювала можливості Ілона Маска.