La empresa de inteligencia artificial CORDEROpropiedad de Elon Musk, Función de imagen restringida de Grok para la mayoría de los usuarios de la plataforma. incógnita. La medida se produce tras múltiples denuncias sobre la creación de contenidos sexualizados, incluidas imágenes de mujeres y menores, según detalla Bloomberg.
Las alertas se multiplicaron cuando se detectó que la herramienta era utilizada para modificar fotografías reales y producir imágenes no consentidas que circulaban en Internet. A partir del viernes 9 de enero de 2026, Sólo los usuarios con una suscripción paga pueden generar o editar imágenes con Grok en X. Hasta esa fecha, la función estaba disponible sin costo para los usuarios con ciertos límites de uso diario. Bloomberg precisó que la restricción impuesta por incógnita no afecta la aplicación independiente de Grokdonde la imagen todavía está activada sin cargos adicionales.
de acuerdo a Bloombergla herramienta se utilizó para crear miles de imágenes no consensuadas por hora, lo que generó preocupación entre los expertos en seguridad digital y los defensores de los derechos.
Críticas y reacciones políticas a la decisión de XAI
La reacción política fue inmediata. La Oficina del Primer Ministro británico, Keir StarmerA través de un portavoz, criticó que la limitación «simplemente transforma una función de inteligencia artificial que permite la creación de imágenes ilegales en un servicio pago» y argumentó que esto «No es una solución».
Además, consideró que la medida representa «Un insulto a las víctimas de la misoginia y la violencia sexual»público Bloomberg. El debate en el Reino Unido se ha intensificado por el temor de que la monetización de estas herramientas no frene la proliferación de contenidos ilícitos y, en cambio, los traslade a un segmento restringido, pero no necesariamente más seguro.
El Fundación de vigilancia de Internetuna organización vinculada al gobierno británico encargada de identificar material de abuso sexual infantil, informó que localizó imágenes generadas por Grokclasificados como «criminales», en la web oscura. Starmer enfatizó que el regulador británico ofcom Cuenta con todo el apoyo del Estado para actuar sobre estos problemas, y se espera que se fortalezcan los controles y sanciones a las plataformas digitales.
Por otro lado, Elon Musk publicado en INCÓGNITA: «Cualquier usuario que utilice Grok para crear contenido ilegal enfrentará las mismas consecuencias que si hubiera subido contenido ilegal a la plataforma».
Bloomberg Indicó que, hasta el momento, un portavoz de XAI había evitado dar más detalles sobre nuevas medidas y recordó que la normativa de X ya prohíbe la publicación de material de abuso sexual infantil. Sin embargo, varios especialistas en tecnología señalaron que los mecanismos de detección y control aún tienen limitaciones.
Perspectiva europea y advertencias regulatorias
Desde Comisión Europea fue ordenado incógnita retener todos los documentos internos relacionados con Grok hasta fin de año, como parte de investigaciones abiertas sobre el manejo de imágenes generadas por inteligencia artificial.
Un portavoz de la organización, citado por Bloombergenfatizó que el unión Europea condena la existencia de imágenes ilícitas, especialmente cuando involucran a menores, y advierte que las plataformas que no eliminen proactivamente dichos contenidos podrían enfrentarse sanciones o bloqueos. El blog comunitario está evaluando endurecer su marco regulatorio ante el acelerado desarrollo de la IA y la circulación de contenidos sensibles en línea.
Impacto de la plataforma y desafíos para la inteligencia artificial
En términos de alcance de plataforma, X dejó de publicar datos mensuales detallados de usuarios activos y de pago. Los últimos datos disponibles, de marzo de 2024, indicaron 550 millones de usuarios mensualesaunque solo una fracción accede a funciones avanzadas como imágenes de IA mediante suscripción. Los expertos advierten que el modelo de acceso restringido podría alimentar un mercado paralelo de contenido ilegal, haciendo aún más difícil su seguimiento y eliminación.
El caso refleja la capacidad de grandes plataformas como incógnita modificar sus mecanismos y políticas rápidamente frente a la presión política y socialaunque estas respuestas no siempre abordan las cuestiones subyacentes relacionadas con el uso indebido de la inteligencia artificial.
Organizaciones de derechos digitales y organismos reguladores coinciden en la necesidad de fortalecer los controles, promover la transparencia en el uso de algoritmos y garantizar protección efectiva de las víctimas de contenidos no consentidos. La discusión sigue abierta a nivel internacional sobre el equilibrio entre innovación tecnológica y responsabilidad social en el desarrollo de la IA.
