Grok, el sistema de inteligencia artificial desarrollado por xAI para la red social Desde hace unos días la herramienta ya no permite a sus usuarios crear o modificar imágenes de personas reales para mostrarlas semidesnudas o ropa reveladora como bikinis.
Esta decisión, anunciada por la propia compañía a través de sus canales oficiales, responde a la presión social, mediática y legal que ha caído sobre la plataforma de Elon Musk.
¿Qué cambia en Grok y para quién?
Según los anuncios de X y xAI, se han implementado. medidas tecnológicas para evitar que la cuenta @Grok permita la edición de imágenes de personas reales con prendas reveladoras como bikinis. La empresa aclara que esta restricción afecta a todos los usuarios, incluidos los suscriptores de pago.
De esta manera, la capacidad de crear o manipular imágenes que mencionen la cuenta de Grok en X está limitada a los suscriptores, lo que pretende facilitar la responsabilidad en caso de que se abuse de la herramienta.
La medida también incorpora el geobloqueo. Según la propia X, “ha geobloqueado la capacidad de todos los usuarios de generar imágenes de personas reales en bikini, ropa interior y prendas similares en aquellas jurisdicciones donde sea ilegal”.
A pesar de las restricciones, medios como The Verge han demostrado que todavía es posible generar imágenes medio nulaslo que pone en duda la eficacia inmediata de las nuevas barreras tecnológicas. Según sus pruebas, utilizando una cuenta gratuita, los periodistas lograron crear imágenes de personas en bikini, incluso después de que supuestamente la restricción entrara en vigor.
¿Por qué tuvieron que hacer estos cambios en Grok?
La decisión de limitar la capacidad de Grok para crear imágenes sexualizadas se produce en un contexto de gran presión social y legal. La comunidad científica, varias figuras públicas y numerosos usuarios anónimos denunciaron el uso de inteligencia artificial para la generación de imágenes no consentidas, calificando la práctica de invasiva y sexualizante. El problema no sólo afectó a famosos, sino también a menores y adultos ajenos a la vida pública.
Junto a las quejas sociales, hubo procedimientos judiciales y medidas legales en varias partes del mundo. Malasia e Indonesia fueron los primeros países en prohibir el uso de Grok para crear imágenes de desnudos o semidesnudos.
En Francia, Reino Unido, Australia, Irlanda e Indiaasí como en el campo de Comisión EuropeaSe han anunciado investigaciones contra X, muchas de ellas centradas en la generación de imágenes sexualizadas o «deepfakes» de menores.
En el Reino Unido, el regulador de comunicaciones Ofcom ha abierto una investigación, mientras que el gobierno británico está presionando para que se establezca una ley que tipifique como delito la creación de imágenes íntimas «deepfake» no consentidas.
El primer ministro Keir Starmer afirmó que X está tomando medidas para «garantizar el pleno cumplimiento de la legislación británica», aunque aclaró que el Gobierno no bajará la guardia y exigirá resultados verificables.
La declaración oficial de X destaca su compromiso con la seguridad y la «tolerancia cero» con la explotación sexual infantil, la desnudez no consentida y cualquier contenido sexual no deseado. La compañía dice que prioriza la eliminación de contenido infractor, denuncia cuentas que buscan material de explotación sexual infantil y coopera activamente con las autoridades.
