La difusión de imágenes sexualizadas y violentas generadas por inteligencia artificial causado Elon Musk anunciará la restricción de acceso a la herramienta Grokahora sólo está disponible para aquellos que pagan una suscripción a incógnita. La decisión responde al aumento de denuncias sobre la vulneración del derecho a la propia imagen, a la vida privada y al honor, así como a las amenazas de sanciones y prohibiciones planteadas por varios gobiernos europeos.
En las últimas semanas, la creación de vídeos pornográficos y simulacros de agresiones con Grok se ha expandido en la red social, superando la capacidad de respuesta de los organismos reguladores.
Ante la presión, musgo informó que la generación y edición de imágenes está limitada a suscriptores pagos.
En lugar de incorporar filtros o salvaguardas técnicas para impedir la creación de dichos contenidos, la plataforma optó por restringir su uso, transferir la responsabilidad legal a quienes pagan por el servicio. «Cualquiera que utilice Grok para crear contenido ilegal o utilice X para publicar contenido ilegal enfrentará las consecuencias. La responsabilidad legal recae en la persona que crea o sube el contenido», afirmó el polémico empresario.
A finales de diciembre comenzaron a circular ampliamente imágenes pornográficas y violentas no consentidas. musgo Al principio minimizó el tema, incluso publicó una foto de ella en bikini para restar importancia a la gravedad de la funcionalidad de la IA. Sin embargo, la reacción de autoridades y usuarios llevó a la plataforma a limitar el acceso a quienes puedan ser rápidamente identificados como responsables del contenido generado.
El debate sobre la responsabilidad de las plataformas digitales respecto a la difusión de material ilícito sigue abierto. Ricard Martínez, director de la Cátedra de Privacidad y Transformación Digital de la Universitat de València, explicó a El País: «Ninguna imagen puede ser sexualizada sin consentimiento, aunque se especifique que se trata de una recreación. Todos y cada uno de nosotros tenemos derecho a la propia imagen, a la vida privada y a un honor reconocido».
Martínez sostuvo que la responsabilidad legal de prevenir y eliminar estos contenidos recae tanto en los creadores como en las plataformas que facilitan su generación y difusión.
El problema se ve agravado por el impacto de la sextorsión, una modalidad delictiva que combina el robo de datos con la difusión masiva de imágenes no consentidas. La empresa de ciberseguridad Kaspersky ha detectado un aumento en el malware Stealerium, utilizado en campañas de extorsión automatizadas. Más del 90% de las agresiones sexuales digitales que involucran imágenes no autorizadas involucran a mujeres.
Mary Anne Franks, profesora de la Universidad George Washington y presidenta de Cyber Civil Rights, advirtió: «Las mujeres son los canarios en la mina cuando se trata del abuso de la inteligencia artificial. No serán sólo la niña de 14 años o Taylor Swift, serán los políticos, los líderes mundiales, las elecciones, pero todavía somos pocos los que podemos intentarlo. Eso está surgiendo».
la medida de musgo tiene como objetivo detener los abusos limitando el acceso a la herramienta solo a aquellos que puedan ser identificados como suscriptores de pago, mientras continúa el debate sobre las obligaciones legales y éticas de las plataformas tecnológicas en la protección de los derechos fundamentales en los entornos digitales.
