La situación con Grok, la inteligencia artificial desarrollada por xAI, la empresa de Elon Musk, ha aumentado a escala internacional tras salir a la luz informes sobre la generación de imágenes sugerentes de personasincluidos menores de edad, en la plataforma X.
Este escenario ha desencadenado investigaciones formales y bloqueos en varios países, así como una profunda preocupación sobre los controles internos de la herramienta y la capacidad de las empresas para detener el uso indebido de sus sistemas.
El informe publicado a principios de enero por AI Forensics arroja luz sobre la magnitud del fenómeno. Según el estudio, el 53% de las imágenes generadas por Grok mostraban a personas con poca ropa. De este grupo, el 81% eran mujeres y el 2% eran personas que parecían tener 18 años o menos. Además, el 6% involucraba a figuras públicas.
El Reino Unido investiga la IA de Elon Musk
Ofcom, el organismo de control de las comunicaciones del Reino Unido, anunció el inicio de una investigación formal sobre Platform. El objetivo: determinar si la empresa había violado la Ley de Seguridad en Línea, que exige que las plataformas protejan a los ciudadanos del acceso a material ilegal.
Ofcom se puso en contacto urgentemente con X el 5 de enero, solicitando explicaciones sobre las medidas adoptadas para evitar la difusión de este tipo de contenidos. La empresa respondió dentro del plazo estipulado, lo que dio lugar a una valoración probatoria.
La investigación tiene como objetivo aclarar si
Las consecuencias de un posible incumplimiento son graves: la agencia advierte de la posibilidad de imponer multas de hasta 18 millones de libras esterlinas o el 10% de los ingresos globales de la empresa En casos graves, incluso se podría pedir a un tribunal que detenga la actividad comercial de X en el país.
A Grok ya se le bloqueó la posibilidad de generar estas imágenes.
Este caso no es aislado. El Ministerio de Comunicaciones y Asuntos Digitales de Indonesia también actuó enérgicamente. El organismo regulador decidió bloquea temporalmente el acceso a Grok tras una investigación que confirmó la generación de imágenes comprometedoras utilizando la herramienta de inteligencia artificial.
Según el comunicado oficial, la medida tiene como objetivo proteger a las mujeres, los niños y a toda la comunidad del riesgo de imágenes manipuladas creadas con tecnología automatizada. El ministerio exigió a X una rápida aclaración sobre el funcionamiento de la IA y su control de contenidos.
En este sentido, Meutya Hafid, ministra de Comunicaciones y Digitalización, ha subrayado que la creación de imágenes manipuladas no consentidas constituye una grave violación de los derechos humanos, la dignidad y la seguridad nacional en el ámbito digital.
¿Qué ha hecho xAI en este caso?
Las consecuencias de la exposición pública fueron inmediatas. Ante la presión internacional y la amenaza de sanciones, xAI decidió restringir el acceso a la función de imágenes de Groklimitando su uso únicamente a suscriptores pagos.
Pero la aplicación independiente de Grok, que funciona fuera de la red social preocupaciones sobre la eficacia real de las nuevas restricciones.
En respuesta al bloqueo en Indonesia, Grok publicó un mensaje a X disculpándose por el inconveniente y diciendo que estaban trabajando para solucionar el problema.
