Malasia e Indonesia bloquearon Grok por generar pornografía infantil - ForkLog: criptomonedas, IA, singularidad, futuro

# Malasia e Indonesia bloquearon Grok debido a la generación de pornografía infantil

Malasia e Indonesia bloquearon el acceso al chatbot Grok de Elon Musk por preocupaciones sobre el uso de la herramienta para generar contenido sexual.

El 11 de enero, el regulador malasio ordenó imponer restricciones temporales tras «reiterados fracasos de X Corp» en la mitigación de riesgos relacionados con el servicio de IA.

Un día antes, Indonesia suspendió el acceso al chatbot por preocupaciones similares y convocó a representantes de la empresa para discutir el asunto.

La dura reacción de los países del sudeste asiático siguió a informes de que Grok permite crear materiales con participación de menores y generar imágenes pornográficas.

En X afirmaron que la empresa está abordando el problema. Como medida temporal, la función de generación y edición de imágenes quedó disponible solo para suscriptores de pago.

La compañía de Musk recientemente actualizó las funciones de Grok Imagine, simplificando la creación de imágenes mediante prompts en el chatbot. El empresario, por su parte, advirtió que responsabilizará a quienes utilicen la red neuronal con fines ilegales.

Cualquier persona que use Grok para crear contenido ilegal sufrirá las mismas consecuencias que si subiera contenido ilegal

— Elon Musk (@elonmusk) 3 de enero de 2026

Estas medidas no son suficientes

Los reguladores de Malasia e Indonesia no quedaron satisfechos con las medidas adoptadas.

La Comisión de Comunicaciones y Multimedia de Malasia afirmó que las acciones «no consideran los riesgos asociados con el diseño y funcionamiento de la herramienta de IA».

«La restricción se implementa como una medida preventiva y proporcional durante los procedimientos legales y regulatorios. El acceso a Grok permanecerá restringido hasta que se implementen medidas de protección efectivas, en particular para prevenir la aparición de contenido relacionado con mujeres y niños», declaró el regulador.

En Malasia e Indonesia existen leyes estrictas contra la pornografía, que prohíben la difusión amplia de contenido similar en internet.

La ministra de Comunicaciones y Tecnologías Digitales de Indonesia, Metyia Hafid, afirmó que el gobierno considera las deepfakes sexuales creadas sin consentimiento como una violación grave de los derechos humanos, la dignidad y la seguridad de los ciudadanos en el espacio digital.

Ella clasifica el uso de IA para crear pornografía falsa como una forma de «violencia digital».

Consecuencias a gran escala

Los reguladores de la UE, Reino Unido, Brasil e India exigen investigar el papel de Grok en la difusión de deepfakes.

La organización británica Internet Watch Foundation señaló que sus analistas detectaron «imágenes criminales» de niños de entre 11 y 13 años, presuntamente creadas con ayuda de Grok.

En Londres, se barajan medidas extremas: la ministra de Tecnología, Liz Kendall, confirmó que apoyará la decisión de bloquear X si la plataforma no cumple con las normas de seguridad. Legisladores estadounidenses también propusieron a los marketplaces eliminar la aplicación hasta resolver el problema.

Las autoridades de diferentes países están en modo de emergencia para regular la IA que se usa para «desnudar» a las personas en fotos.

No es el primer escándalo

Anteriormente, Grok fue criticado varias veces por difundir noticias falsas y desinformación.

En diciembre, el chatbot proporcionó información inexacta sobre un tiroteo masivo en la playa Bondi en Australia. En respuesta a la pregunta sobre un video en el que un transeúnte, Ahmed Al-Ahmad, luchaba contra el tirador, IA respondió lo siguiente:

«Parece un viejo video viral en el que un hombre trepa a una palmera en un estacionamiento, posiblemente para podarla. Como resultado, una rama cayó sobre un coche dañado. La búsqueda en varias fuentes no arrojó datos confirmados sobre el lugar, la fecha y las lesiones. Es posible que sea una recreación, la autenticidad no está confirmada».

En julio, los usuarios notaron que la red neuronal se basa en la opinión de Elon Musk al formar respuestas. Esto incluyó temas como el conflicto entre Israel y Palestina, abortos y legislación migratoria.

Las observaciones sugieren que el chatbot fue configurado específicamente para tener en cuenta las opiniones políticas de Musk al responder preguntas polémicas.

Anteriormente, el multimillonario afirmó que su startup reescribirá «todo el conocimiento humano» para entrenar una nueva versión de Grok, ya que hoy en día se usa «demasiado basura en cualquier modelo base entrenado con datos no corregidos».

Posteriormente, surgió Grokipedia, una enciclopedia en línea basada en inteligencia artificial, «orientada a la verdad».

Recordemos que en noviembre, los usuarios detectaron sesgos en Grok 4.1: el nuevo modelo sobreestimó significativamente las capacidades de Elon Musk.