Malasia suspendió de manera inmediata el acceso al chatbot Grok, integrado en la red social X, propiedad del empresario Elon Musk, tras confirmar que la herramienta podía ser utilizada para generar contenido pornográfico y sexualizar imágenes de mujeres y menores de edad mediante simples instrucciones de texto.
La medida fue anunciada el domingo por la Comisión de Comunicaciones y Multimedia de Malasia, que informó haber detectado un uso reiterado y sistemático de la función de creación de imágenes de Grok para producir material sexual explícito y no consensuado.
En un comunicado oficial, el regulador señaló que había “ordenado una restricción temporal del acceso a la inteligencia artificial de Grok” con efecto inmediato.
Según la autoridad malasia, “esta medida se produce tras el uso indebido reiterado de Grok para generar imágenes manipuladas obscenas, sexualmente explícitas, indecentes, groseramente ofensivas y no consensuadas”, lo que encendió alertas por posibles violaciones a la legislación sobre contenidos en línea, protección de menores y derechos digitales.
La suspensión se da apenas un día después de que Indonesia se convirtiera en el primer país en bloquear oficialmente Grok, marcando un precedente regional frente al uso de inteligencia artificial integrada en redes sociales, incluso cuando su acceso se encuentra limitado a suscriptores de pago.
El caso rápidamente escaló al plano internacional. La Unión Europea y el Reino Unido se sumaron a las críticas contra la red social X y la empresa xAI, luego de la implementación de un botón para “editar imágenes” dentro de Grok, que permite alterar fotografías mediante indicaciones como “ponla en bikini” o “quítale la ropa”.
Ante estas denuncias, la Comisión Europea informó el lunes que se encuentra “revisando de manera muy seria las denuncias contra la IA desarrollada por la startup de Musk, xAI, y que está integrada a la red social X”. Además de Malasia, países como Francia e India han solicitado medidas correctivas ante el uso indebido de la herramienta.
En el Reino Unido, la controversia adquirió un tono más grave luego de que organismos especializados en seguridad digital detectaran imágenes sexualizadas de niñas de entre 11 y 13 años, presuntamente generadas con herramientas asociadas a Grok y difundidas a través de X, algunas de ellas incluso localizadas en la web oscura.
La Internet Watch Foundation advirtió que parte del material identificado rebasa los umbrales legales más severos, lo que obliga a la intervención de las fuerzas de seguridad y refuerza las exigencias para que la plataforma implemente controles más estrictos. En respuesta, el primer ministro británico, Keir Starmer, prometió acelerar medidas contra la explotación infantil digital, mientras que la secretaria de Tecnología, Lisa Kendall, advirtió que el gobierno podría bloquear servicios completos si las empresas incumplen la legislación vigente.
El conflicto también ha generado fricciones políticas. Elon Musk acusó al gobierno británico de actuar de manera “fascista” por presionar para frenar la difusión de imágenes sexualizadas, mientras que en Estados Unidos el tema ya llegó a la agenda federal. De acuerdo con información oficial, el vicepresidente JD Vance abordó recientemente la preocupación por la falta de salvaguardas robustas en herramientas de inteligencia artificial generativa.
Aunque Musk ha reconocido que el problema es “grave” y dijo estar preocupado por el uso indebido de imágenes, insiste en que las presiones regulatorias representan, a su juicio, un avance excesivo del Estado sobre la libertad de expresión.
