las autoridades del Reino Unido han iniciado una investigación formal sobre la plataforma Elon Musktras detectar el presunto uso indebido de Grok AI en la generación de deepfakes sexuales. El regulador Ofcom actúa bajo la Ley de Seguridad en Línea, impulsado por informes sobre la creación y difusión de imágenes explícitas y no consensuadas, incluidas representaciones sexualizadas de menores.
Esta situación coloca a X bajo la mira de la supervisión regulatoria a medida que crecen las alarmas en torno al uso de AI para la producción de contenidos nocivos.
X bajo escrutinio por deepfakes y contenido sexual no consensuado
Según el regulador, la investigación tiene como objetivo determinar si la plataforma ha incumplido sus obligaciones legales en materia de protección online, de conformidad con lo dispuesto en la Ley de Seguridad Online.
Grok, lanzado en 2023, se ofrece de forma gratuita en X y permite a los usuarios generar contenido de texto e imágenes, incluidas respuestas directas y publicaciones personales. La incorporación de la función Grok Imagine, junto con el «modo picante», facilitó la producción de imágenes para adultos.aumentando el riesgo de crear deepfakes sexuales no consensuados.
El impacto de Grok ya ha traspasado fronteras, con cierres recientes en Malasia e Indonesia después de que las autoridades de esos países denunciaran el uso de IA para generar imágenes sexuales falsas y no consentidas. Esta expansión global del problema ha aumentado la presión sobre X para fortalecer sus controles y sistemas de prevención.
Riesgos legales y sanciones para X: consecuencias de violar la Ley de seguridad en línea
La investigación formal de ofcom No sólo implica un escrutinio detallado de las prácticas de X, sino que podría dar lugar a sanciones importantes si se demuestra una violación legal. «Hemos decidido abrir una investigación formal para determinar si X ha violado sus obligaciones legales bajo la Ley de Seguridad en Línea», dijo el regulador en su comunicado.
En el caso de que la plataforma funcione para Elon Musk no cumple los requisitos, Ofcom tiene el poder de solicitar una orden judicial para bloquear completamente el acceso a X en el Reino Unido.
Además, la ley faculta a la agencia a imponer una multa de hasta el 10% de los ingresos globales de una empresa o 18 millones de libras esterlinas (20 millones de euros), lo que ejerce una presión significativa sobre la empresa para que ajuste sus políticas y procedimientos en torno al uso de inteligencia artificial.
Contexto y antecedentes: la expansión de Grok y los desafíos regulatorios
Grok debutó en la red social X en 2023, con el objetivo de brindar a los usuarios un chatbot avanzado capaz de interactuar a través de texto e imágenes. La función Grok Imagine, con su «modo picante», estuvo en el centro de la polémica por permitir la generación de contenido para adultos.
El uso inadecuado de estas herramientas, especialmente en la creación de falsificaciones sexualesha dado lugar a bloqueos y revisiones regulatorias en varios países.
Se han intensificado las preocupaciones sobre la protección de los usuarios y la prevención de daños derivados del uso de la IA. El caso de X y Grok refleja el creciente desafío que enfrentan los reguladores a nivel internacional para garantizar que las plataformas tecnológicas tomen medidas efectivas contra la difusión de contenidos nocivos, especialmente cuando se trata de menores y de la integridad de las personas.
