xAILa empresa fundada por Elon Musk, decidió restringir la edición de imágenes en Grok tras la polémica por la generación de deepfakes sexualizados sin consentimiento. La medida llega después del chatbot AI Fue protagonista de un escándalo internacional, permitiendo la creación de imágenes manipuladas de cualquier persona, lo que generó una ola de indignación global y respuestas contundentes por parte de gobiernos y organismos reguladores.
Grok y la polémica: Límites a la edición de imágenes tras deepfakes sexualizados
El detonante de la crisis fue la aparición de una función en Grok que facilitaba la manipulación de imágenes, permitiendo desnudar a las personas digitalmente sin su consentimiento. Los usuarios de la plataforma pudieron crear imágenes hiperrealistas de mujeres y menores en diminutos bikinis y en posiciones sexualizadas, incluso con signos de violencia como hematomas.
Ante la polémica, xAI anunció la implementación de “medidas tecnológicas para evitar que la cuenta de Grok permita la edición de imágenes de personas reales con ropa reveladora, como bikinis”. La empresa aclaró que «esta restricción se aplica a todos los usuarios, incluidos los suscriptores pagos».
Además, la generación de otro tipo de imágenes se limitó exclusivamente a quienes pagaron una suscripción, con el objetivo de identificar a quienes hacen mal uso de la herramienta.
propio Elon Musk intervino para intentar calmar la situación, denunciando una restricción parcial que limitaba la creación de nodos a los suscriptores. Según sus declaraciones, el sistema permitiría así la trazabilidad de los usuarios y una mayor capacidad de respuesta ante posibles abusos.
Reacciones internacionales a los deepfakes de Grok
Indignación por el uso de Grok para crear deepfakes sexualizados No pasó mucho tiempo antes de que se extendiera por todo el mundo. Miles de personas denunciaron que se está utilizando la inteligencia artificial para perpetuar la violencia sexual, especialmente contra grupos que ya sufren este tipo de agresiones fuera del ámbito digital.
A raíz del escándalo, varios gobiernos y organizaciones de vigilancia tomaron medidas enérgicas. Malasia e Indonesia optaron por prohibir completamente el acceso a Grok. En otros países, como España, Estados Unidos y Australia, las autoridades abrieron investigaciones judiciales por sospechas de delitos relacionados con la pornografía infantil.
xAI, por su parte, ha asegurado que «toma medidas» para eliminar cualquier contenido que involucre abuso sexual infantil. Musk afirmó públicamente que «no tenía conocimiento de ninguna imagen de menores desnudos generada por Grok», aunque la compañía reforzó su compromiso de actuar sobre dicho material.
xAI y Musk dan un paso adelante para detener el abuso de Grok
La respuesta de xAI incluyó la adopción de filtros tecnológicos para bloquear la edición de imágenes de personas reales con ropa sugerente, como bikinis. La compañía detalló en una publicación vía X que la restricción se extendería a todos los usuarios y que la generación de imágenes generalmente estaría reservada para aquellos con una suscripción paga.
Con esta decisión, xAI busca frenar el mal uso de Grok para crear deepfakes sexualizados y responder a la presión social y política surgida de acontecimientos recientes. Además, la compañía propone que la identificación de los suscriptores le permita actuar de manera más efectiva ante posibles delitos o violaciones de la normativa vigente.
Qué es Grok, el chatbot de inteligencia artificial de xAI
Grok es un chatbot de inteligencia artificial desarrollado por la empresa xAI, propiedad de Elon Musk. Su diseño permite mantener conversaciones, responder preguntas complejas y generar contenido visual basado en instrucciones del usuario, utilizando lenguaje natural avanzado y técnicas de procesamiento de imágenes.
A diferencia de otros asistentes virtuales, Grok destaca por su capacidad para crear imágenes realistas, interpretar información contextual y adaptarse a múltiples aplicaciones. Esta versatilidad la ha posicionado rápidamente en el mercado, aunque también la ha colocado en el centro de los debates sobre los límites éticos y legales de la inteligencia artificial.
