En las últimas semanas, los gobiernos y organismos reguladores de todo el mundo han intensificado su presión en su contra. incógnita y su empresa asociada xAIdespués de que el chatbot de Grok fuera vinculado a la difusión masiva de imágenes sexualizadas generadas por IA sin consentimiento.
El fenómeno, que afectó principalmente a mujeres, incluidas figuras públicas, periodistas, víctimas de delitos e incluso líderes políticos, expuso las actuales limitaciones de la regulación tecnológica ante el acelerado avance de la IA generativa.
Sin embargo, un análisis más detallado reveló una dimensión mucho mayor: una muestra recolectada entre el 5 y el 6 de enero detectó alrededor de 6.700 imágenes por hora durante un período de 24 horas. La cifra generó alarma entre autoridades, especialistas en derechos digitales y organizaciones de protección de víctimas.
El caso puso en el centro del debate el papel de Grok, el chatbot desarrollado por xAI e integrado en X, y la decisión de lanzar el modelo sin garantías estrictas para la generación de imágenes.
Aunque las críticas se multiplicaron a nivel internacional, los mecanismos para frenar este tipo de contenidos fueron, en muchos casos, limitados o poco claros. Para los reguladores, el episodio se convirtió en una prueba concreta. Los desafíos que plantea la inteligencia artificial cuando se combina con plataformas de alcance global..
La respuesta más fuerte hasta el momento provino de la Comisión Europea. La agencia ordenó a xAI conservar toda la documentación relacionada con Grokuna medida que generalmente prevé investigaciones formales bajo el Reglamento de Servicios Digitales (DSA).
Si bien la Comisión no confirmó la apertura del expediente, la decisión fue interpretada como una señal de alerta. Las preocupaciones aumentaron después de que informes periodísticos sugirieran que Elon Musk habría intervenido para impedir la implementación de filtros de seguridad más estricto en la generación de imágenes.
De X no se detalló si se introdujeron cambios técnicos profundos en el funcionamiento de Grok. La compañía eliminó la pestaña de medios públicos de la cuenta oficial del chatbot y emitió declaraciones condenando el uso de herramientas de inteligencia artificial para producir material ilegal, incluido contenido sexual infantil.
«Cualquiera que utilice o incite a Grok a crear contenido ilegal sufrirá las mismas consecuencias que si hubiera subido contenido ilegal», señalaba a principios de enero la cuenta X Safety, en línea con mensajes anteriores del propio Musk.
En el Reino Unido la reacción también fue inmediata. La Oficina de Comunicaciones (Ofcom) lo confirmó manténgase en contacto con xAI y haga una evaluación rápida para determinar posibles incumplimientos regulatorios.
El primer ministro británico, Keir Starmer, calificó públicamente la situación de «vergonzosa» y «repugnante» y aseguró que el regulador cuenta con todo el apoyo del gobierno para actuar si es necesario.
Australia adoptó una postura más cautelosa. La comisionada de Seguridad Electrónica, Julie Inman-Grant, informó que su oficina recibió el doble de quejas relacionadas con Grok. desde finales de 2025. Sin embargo, evitó anunciar sanciones específicas y se limitó a señalar que se utilizarán las herramientas regulatorias disponibles para investigar y evaluar los próximos pasos.
El escenario más complejo para X podría ocurrir en India, uno de sus mercados más grandes. Allí, Grok fue objeto de una denuncia formal presentada por un miembro del Parlamento. Ministerio de Electrónica y Tecnología de la Información (MeitY) exigió a la plataforma un informe detallado de las medidas adoptadascon plazos ajustados.
Aunque X presentó una respuesta el 7 de enero, las autoridades aún tienen que confirmar si la consideran suficiente. De lo contrario, la empresa podría perder su estatus de «puerto seguro», una protección legal clave para operar en el país.
