El regulador británico Ofcom ha abierto una investigación formal sobre X, la red social propiedad de Elon Musk, por el uso de su chatbot de inteligencia artificial Grok para crear y difundir imágenes íntimas ilegales y no consentidas.
La medida se enmarca en la Ley de Seguridad en Línea del Reino Unido y podría generar millones de dólares en sanciones financieras si se descubre que la plataforma incumple sus obligaciones legales de proteger a los usuarios, especialmente a los menores.
Dada la magnitud del fenómeno y el impacto negativo generado, X decidió limitar la edición de imágenes con Grok únicamente a usuarios pagos. Sin embargo, la medida no fue suficiente para calmar las preocupaciones de los reguladores, que creen que la plataforma puede haber permitido la circulación de contenido ilegal durante un período significativo.
En un comunicado, un portavoz de Ofcom calificó las acusaciones de «profundamente preocupantes» y advirtió que el uso de Grok para crear y compartir imágenes íntimas no consensuadas, así como material potencial de abuso sexual infantil, plantea un riesgo grave.
«Las plataformas deben proteger a los ciudadanos del Reino Unido de contenidos ilegales y no dudaremos en investigar si sospechamos que las empresas no están cumpliendo con sus obligaciones, particularmente cuando existe riesgo de daño a menores», dijo el organismo.
El regulador ha explicado que el pasado 5 de enero se puso en contacto con X para pedirle explicaciones sobre las medidas adoptadas para cumplir con la ley, fijándose como fecha límite el 9 de enero. La empresa respondió dentro del plazo, obligando a Ofcom a realizar una «evaluación acelerada» de la información presentada. Después de este análisis preliminar, La agencia decidió seguir adelante con una investigación formal para determinar si hubo una violación a la Ley de Seguridad en Línea..
Si se concluye que X no ha cumplido con sus obligaciones legales, Ofcom tiene la facultad de hacerlo imponer sanciones que incluyen multas de hasta 20 millones de euros o el 10% de los ingresos globales de la empresael que sea mayor. En escenarios considerados particularmente graves, el regulador también puede solicitar ante los tribunales medidas que interrumpan parcial o totalmente la actividad de la empresa en el país.
La Ley de Seguridad en Línea otorga a Ofcom la responsabilidad de evaluar si las plataformas digitales han tomado las medidas adecuadas para proteger a los usuarios del contenido ilegal. El proceso incluye la recolección y análisis de evidencia, la emisión de una resolución provisional y la posibilidad de que la empresa investigada responda antes de que se tome una resolución final.
El caso del Reino Unido no es aislado. Malasia también anunció que emprenderá acciones legales contra X por la operación de Grok. Según informó la agencia EFE, la Comisión de Comunicación y Multimedia de este país ya ha designado abogados y prevé iniciar acciones judiciales en breve, tras detectar el «uso indebido» del chatbot para generar y difundir contenidos nocivos, incluidas imágenes obscenas y sexualmente explícitas creadas sin consentimiento.
Las autoridades de Malasia indicaron que el contenido generado por Grok era considerado indecente, extremadamente ofensivo y manipulador, lo que motivó la decisión de emprender acciones legales. Con esta postura, Malasia se suma a otros países que están revisando el impacto y los riesgos de la herramienta de inteligencia artificial, entre ellos Francia, Reino Unido e Indonesia.
La polémica vuelve a poner en el centro del debate los límites de la inteligencia artificial generativa y la responsabilidad de las plataformas que la integran. En el caso de Grok, diseñado para interactuar directamente con los usuarios de X, las críticas apuntan a la falta de controles efectivos en las primeras etapas de su implementación.
A medida que avanza la investigación, X enfrenta un escenario complejo en el que se unen la presión regulatoria, las cuestiones éticas y el escrutinio público. sobre el uso de la IA. El resultado del proceso en el Reino Unido podría sentar un precedente relevante para la regulación de las herramientas de inteligencia artificial y el papel de las grandes plataformas tecnológicas en la prevención del abuso digital.
