Malaisie et Indonésie ont bloqué Grok en raison de la génération de pornographie infantile - ForkLog : cryptomonnaies, IA, singularité, avenir

# La Malaisie et l’Indonésie ont bloqué Grok en raison de la génération de pornographie enfantine

La Malaisie et l’Indonésie ont bloqué l’accès au chatbot Grok d’Elon Musk en raison de préoccupations concernant l’utilisation de l’outil pour générer du contenu sexuel.

Le 11 janvier, le régulateur malaisien a ordonné l’introduction de restrictions temporaires après « plusieurs échecs de X Corp » à éliminer les risques liés au service d’IA.

La veille, l’Indonésie a suspendu l’accès au chatbot en raison de préoccupations similaires et a convoqué des représentants de l’entreprise pour discuter de la question.

La réaction ferme des pays d’Asie du Sud-Est a suivi des messages indiquant que Grok permet de créer des contenus impliquant des mineurs et de générer des images pornographiques.

Sur X, ils ont déclaré que l’entreprise résout le problème. En tant que mesure temporaire, la fonction de génération et de modification d’images a été rendue accessible uniquement aux abonnés payants.

La société de Musk a récemment mis à jour les fonctionnalités de Grok Imagine, simplifiant la création d’images via des prompts dans le chatbot. L’entrepreneur a, de son côté, menacé de responsabilité ceux qui utilisent le réseau neuronal à des fins illégales.

Quiconque utilise Grok pour créer du contenu illégal subira les mêmes conséquences que s’il téléchargeait du contenu illégal

— Elon Musk (@elonmusk) 3 janvier 2026

Ces mesures sont insuffisantes

Les régulateurs de Malaisie et d’Indonésie n’ont pas été satisfaits des mesures prises.

La Commission malaisienne des communications et du multimédia a déclaré que les actions « ne prennent pas en compte les risques liés à la conception et au fonctionnement de l’outil d’IA ».

« La restriction est introduite à titre préventif et proportionné pendant la procédure légale et réglementaire. L’accès à Grok restera limité jusqu’à ce que des mesures de protection efficaces soient mises en place, notamment pour empêcher la création de contenu lié aux femmes et aux enfants », a déclaré le régulateur.

En Malaisie et en Indonésie, il existe des lois strictes contre la pornographie, interdisant la diffusion large de ce type de contenu sur Internet.

La ministre indonésienne des Communications et des Technologies numériques, Metyia Hafid, a déclaré que le gouvernement considère la création de deepfakes sexuels sans consentement comme une violation grave des droits de l’homme, de la dignité et de la sécurité des citoyens dans l’espace numérique.

Elle qualifie l’utilisation de l’IA pour créer de la pornographie factice de forme de « violence numérique ».

Conséquences à grande échelle

Les régulateurs de l’UE, du Royaume-Uni, du Brésil et de l’Inde exigent une enquête sur le rôle de Grok dans la diffusion de deepfakes.

L’organisation britannique Internet Watch Foundation a noté que ses analystes ont découvert des « images criminelles » d’enfants âgés de 11 à 13 ans, probablement créées avec Grok.

À Londres, des mesures extrêmes ont été envisagées : la ministre des Technologies, Liz Kendall, a confirmé qu’elle soutiendrait une décision de bloquer X si la plateforme ne respectait pas les normes de sécurité. Des législateurs américains ont également proposé de demander aux marketplaces de supprimer l’application jusqu’à résolution du problème.

Les autorités de différents pays cherchent en urgence comment réguler l’IA utilisée pour « déshabiller » les personnes sur des photos.

Pas le premier scandale

Grok a déjà été critiqué à plusieurs reprises pour la diffusion de faux et d’informations douteuses.

En décembre, le chatbot a fourni de fausses informations sur une fusillade de masse sur une plage de Bondi en Australie. En réponse à une question sur une vidéo montrant un passant, Ahmed Al-Ahmad, lutter contre le tireur, l’IA a répondu :

« Il semble que ce soit une vieille vidéo virale où un homme grimpe à un palmier dans un parking, peut-être pour le tailler. La branche est tombée sur une voiture endommagée. La recherche dans diverses sources n’a pas permis de confirmer le lieu, la date ou les blessures. Il pourrait s’agir d’une mise en scène, la véracité n’étant pas confirmée ».

En juillet, les utilisateurs ont remarqué que le réseau neuronal se basait sur l’opinion d’Elon Musk pour formuler ses réponses. Cela concernait notamment le conflit entre Israël et la Palestine, les avortements et la législation sur l’immigration.

Ces observations suggèrent que le chatbot a été spécialement configuré pour prendre en compte les opinions politiques de Musk lors de réponses à des questions controversées.

Auparavant, le milliardaire a déclaré que sa startup réécrirait « toutes les connaissances humaines » pour entraîner une nouvelle version de Grok, car aujourd’hui, « il y a trop de déchets dans n’importe quel modèle de base entraîné sur des données non corrigées ».

Par la suite, est née Grokipedia — une encyclopédie en ligne basée sur l’intelligence artificielle, « axée sur la vérité ».

Rappelons qu’en novembre, les utilisateurs ont signalé un biais dans Grok 4.1 — le nouveau modèle a considérablement surestimé les capacités d’Elon Musk.