AbiertoAI implementará un nuevo sistema de predicción de la era ChatGPT destinado a identificar automáticamente cuando podría ser un usuario menores de 18 años. El objetivo es ajustar los niveles de protección y el tipo de experiencia en función de la edad estimada del usuario, en respuesta al creciente escrutinio de reguladores y legisladores que exigen mayores salvaguardas para los menores en las plataformas de inteligencia artificial.
Un enfoque basado en señales de comportamiento
hasta ahora, ChatGPT Se basaba principalmente en la edad autoinformada de los usuarios, un método poco confiable y fácilmente eludido para definir límites efectivos. El nuevo modelo combina señales a nivel de cuenta y patrones de comportamiento para inferir la edad de una manera menos intrusiva.
AbiertoAI destaca que la predicción de la edad es un proceso adaptativo y no definitivo. Cuando los datos no son concluyentes, la plataforma decide proporcionar una experiencia más segura de forma predeterminadaaplicando las restricciones típicas para menores.
Garantías y verificación automática
En los casos en que el sistema determine que una cuenta probablemente pertenece a un menor, ChatGPT activa automáticamente garantías adicionales. Estas limitaciones tienen como objetivo reducir la exposición de los adolescentes a contenidos considerados de mayor riesgo, como violencia gráfica, imágenes sangrientas, representaciones de autolesiones y desafíos virales peligrosos.
Además, se restringe el contenido relacionado con estándares de belleza extremos, dietas poco saludables o mensajes que promuevan la vergüenza corporal.
Las restricciones también incluyen controles sobre los juegos de rol de naturaleza sexual o violenta y limitar el acceso a determinadas conversaciones lo cual puede ser inapropiado para los adolescentes. AbiertoAI afirma que expertos en desarrollo infantil han guiado el diseño de estas medidas, teniendo en cuenta investigaciones que indican diferencias entre adolescentes y adultos en la percepción de riesgo y el control de impulsos.
El sistema permite a los usuarios que han sido clasificados erróneamente como menores restaurar el acceso completo mediante un verificación de edad. Este proceso se realiza mediante una verificación basada en selfies utilizando la plataforma Persona, ya utilizada en otros servicios digitales y videojuegos.
Los usuarios pueden acceder a la configuración de ChatGPT para verificar su estado y, si es necesario, iniciar el proceso de verificación, que según la compañía es reversible y no requiere la carga permanente de documentos de identificación.
Contexto regulatorio y desarrollo continuo
Esta actualización responde a la presión de los organismos reguladores, especialmente en EE.UU i Europadonde las autoridades han intensificado la vigilancia sobre la seguridad de la IA y el impacto de los chatbots en niños y adolescentes. El Comisión Federal de Comercio de EE. UU. investiga el efecto de estas tecnologías en los menores, y AbiertoAI enfrenta demandas relacionadas con la protección del usuario.
OpenAI ha anunciado que el sistema se implementará en la Unión Europea en las próximas semanas.ajustando los plazos para satisfacer las demandas regulatorias de la región. Al mismo tiempo, la empresa seguirá perfeccionando el modelo de predicción a medida que recopile más datos y supervise los intentos de eludir las garantías.
La empresa ya había introducido funciones dirigidas a los adolescentes, como controles parentales, horarios de uso restringidos y alertas de signos de angustia emocional. Además, ha creado un asesoramiento de expertos externos analizar el impacto de la IA en la salud mental y contribuir a la toma de decisiones sobre productos dirigidos a usuarios vulnerables.
OpenAI considera la integración de la predicción de la edad como un avance relevanteal tiempo que se reconoce que el desarrollo de sistemas de IA sensibles a la edad es un proceso en evolución que requerirá ajustes continuos a lo largo del tiempo.
