El lanzamiento global del sistema de verificación de edad basado en IA de Roblox ha provocado protestas y duras críticassegún lo informado por Cableado.
Este mecanismo, implementado para restringir el acceso al chat en función de la edad del usuario, ha presentado errores que generan rechazo en usuariosdesarrolladores y expertos en seguridad digital.
Cómo se ve el sistema de verificación de la nueva era de Roblox
El lanzamiento inicial tuvo lugar en Australia, Nueva Zelanda y Países Bajos; Desde la semana pasada, el sistema ha estado funcionando en Estados Unidos y otros países.
Problemas con la verificación en Roblox
Sin embargo, Tras la expansión global se han detectado graves errores en la clasificación por edades. El sistema ha colocado a los usuarios adultos como adolescentes; Por ejemplo, un joven de 23 años fue identificado como menor de 18 y otro adulto, entre 13 y 15 años. Al mismo tiempo, los niños menores de 10 años han sido clasificados en categorías de adultos.
El medio recopila ejemplos y publicaciones en las redes donde se documentan estos errores. Varios usuarios lograron engañar a la inteligencia artificial utilizando fotografías de celebridades o maquillandolos para parecer mayores.
Un vídeo muestra a un hombre con barba y arrugas dibujadas, clasificado como mayor de 21 años. Ry Terran, investigador en extremismo digital, Le dijo al medio que «el mayor peligro es la cantidad de cuentas registradas en el grupo equivocado y los desafíos adicionales para los padres y moderadores».
Otra preocupación creciente es el surgimiento de un mercado negro de cuentas verificadas. Ofertas identificadas por transferencia bancaria en eBay para cuentas con edad verificada para niños de hasta nueve años, con precios a partir de 4 dólares. Después de recibir la alerta, eBay eliminó estos listados por violar sus reglas. Pese a ello, Roblox no ha detallado qué medidas tomará contra el comercio ilegal de cuentas.
El nuevo sistema ha alterado profundamente la participación comunitaria. El uso del chat en algunos juegos cayó del 85% al 36%, explicó un desarrollador. Las descripciones de la experiencia posterior a la actualización van desde «desierto» hasta «pueblo fantasma».
Muchos creen que la plataforma social ha perdido su componente comunitario distintivo. En el foro oficial de desarrolladores, la mayoría pide que se revierta el cambio, protestando por la restricción de la privacidad y las interacciones.
Lo que Roblox ha dicho sobre esta situación
Ante las críticas, Roblox admitió estar al tanto de los fallos y reconoció que algunos padres Colocan a sus hijos en el rango de mayores de 21 años marcando. La compañía anunció controles aleatorios y que está trabajando en mejoras para detectar fraude, aunque no informó el método ni el momento de estos cambios.
Este cambio se produce tras demandas presentadas por los fiscales generales de varios estados de Estados Unidos, que acusan a la empresa de no proteger adecuadamente a sus usuarios menores.
La controversia se ve exacerbada por preocupaciones sobre la privacidad. Roblox sostiene que elimina los datos personales inmediatamente después del procesamiento; Sin embargo, muchos usuarios optan por no completar la verificación por temor a un uso inadecuado de su información. Sólo la mitad ha accedido al sistema, lo que revela una resistencia considerable a la medida.
Aunque la compañía defiende que la verificación de identidad es fundamental para la seguridad, miles de usuarios y creadores creen que la medida, lejos de solucionar los problemas de protección infantil, ha restringido las garantías de privacidad y libertad que caracterizaban a la comunidad.
