Paula Gordaliza (Valladolid, 29) utiliza las matemáticas para intentar que la sociedad sea más equitativa. El joven investigador, ganador del Premio Vicent Caselles que otorgan anualmente la Real Sociedad Matemática Española (RSME) y la Fundación BBVA, ha desarrollado un sistema que corrige el sesgo de los algoritmos de inteligencia artificial (IA), permitiendo predicciones más precisas. Se necesita un experto. “El problema es que estas decisiones no siempre son socialmente responsables”, explicó Godalissa en una videollamada. Investigadora del Centro Vasco de Matemática Aplicada de Bilbao y profesora asociada de la Universidad Pública de Navarra, comenzó a estudiar métodos para eliminar el sesgo de los algoritmos durante su doctorado en la Universidad de Toulouse, cuando la inteligencia artificial no estaba sujeta a la lupa. y la opinión pública de las agencias reguladoras. «Las cosas se han movido muy rápido en los últimos cinco años. Ahora es más importante que nunca estudiar el impacto de la inteligencia artificial en la vida de las personas», dijeron los investigadores.
preguntar. ¿Utiliza habitualmente la inteligencia artificial en su trabajo?
respuesta. Me gusta recordar que soy ante todo matemático y que lo que hago es investigación matemática. Mi trabajo incluye los fundamentos teóricos necesarios para desarrollar cualquier tecnología, especialmente la inteligencia artificial. Así que estudio más sobre problemas matemáticos y cómo se pueden aplicar a problemas prácticos una vez que se resuelven desde una perspectiva teórica. En lo que a mí respecta, estamos hablando de aprendizaje automático y equidad algorítmica, ambos incluidos en el campo de la inteligencia artificial.
Más información
P: ¿Cuál es la relación entre las matemáticas y la inteligencia artificial?
R. Las matemáticas están detrás de todo progreso científico y tecnológico, y la inteligencia artificial es la forma de progreso más de moda en los últimos años. Lo que hacen las matemáticas es construir bases teóricas para resolver los problemas que enfrentamos, que en el caso de mi investigación sería el sesgo algorítmico en inteligencia artificial.
P: ¿Qué es el sesgo algorítmico?
R. es un poco complicado de explicar porque son palabras muy usadas a las que se les da múltiples significados según el contexto. En estadística, algo que está sesgado es algo que no se comporta como se esperaba. Sin embargo, si nos adentramos en el campo de la inteligencia artificial, la palabra se usa mucho, y se refiere más a una tendencia o sesgo a favor o en contra de un grupo o individuo en función de determinadas características, como el género o el color de la piel. Quizás sea esto lo que genera el miedo y la desconfianza que despiertan los algoritmos.
P: ¿Cuál es la razón de esto?
R: Estamos asistiendo al uso generalizado de los sistemas de inteligencia artificial, especialmente de los algoritmos, lo que se refleja en los aspectos que afectan directamente la vida de las personas. Se otorga crédito en la selección de personal o personal de campo clínico para decidir a quién tratar o diagnosticar. Hay muchos más ejemplos, pero estos son probablemente los más comunes. Por supuesto, el hecho de que los algoritmos puedan decidir sobre estos asuntos crea miedo e inquietud en las personas. Esto sucederá hasta que obtengan garantías de que estos algoritmos son justos, confiables y explicables.
P: ¿Qué se puede hacer para combatir este miedo?
Respuesta: Esto demuestra la importancia de las matemáticas, nos ayuda a entender cómo funcionan los algoritmos y es una herramienta para abrir la caja negra de la inteligencia artificial. Es importante transmitir el mensaje de que los algoritmos no funcionan solos y quien los utiliza sabe lo que hace y por qué toma esas decisiones. Esto reducirá en gran medida la desconfianza de la gente hacia ti.
R. Hablaste de prejuicios y discriminación. ¿Son los algoritmos racistas?
P: Estos algoritmos no son racistas ni sexistas. Los algoritmos aprenden de los datos. El aprendizaje automático es una forma de inteligencia artificial capaz de hacer predicciones y conectarse con enormes bases de datos y administrarlas a alta velocidad. Los problemas surgen cuando estos datos son de calidad inferior. Por lo tanto, es necesario apostar por contar con bases de datos de alta calidad que no estén sesgadas hacia variables que puedan contener información sensible, como raza, género, discapacidad, orientación sexual, o cualquier otra información que pueda ser vulnerable a la discriminación.
P: De eso se trata su investigación.
R: La idea es tratar de crear dos subgrupos de población, digamos machos y hembras, cuyas características restantes sean lo más similares posible. De esta manera, trato de eliminar la información de género para que el algoritmo no pueda saber el género de la persona y preservar la información proporcionada por el resto de la base de datos.
P: La sociedad ha mejorado en la discriminación. ¿Por qué todavía hay tanto prejuicio?
R. Esto no es un tema social. Finalmente, se utiliza una herramienta que aprende de datos históricos, que está sesgada, que es como aprenden los algoritmos. Lo que se debe hacer para avanzar es incentivar la investigación, porque esto es una cuestión de conocimiento, y las fronteras del conocimiento son cada vez más complejas. Si queremos progresar, necesitamos equipos multidisciplinarios de matemáticos, estadísticos, informáticos y más para contribuir a la causa. Se necesitan todos los puntos de vista, no solo el punto de vista matemático, que también necesita mejorarse mucho.
P: ¿De qué manera?
R: Por supuesto, la empresa académica y de investigación debe promoverse para realizar investigaciones de alta calidad específicamente sobre inteligencia artificial, pero con una base matemática muy sólida para garantizar que lo que hace el algoritmo sea confiable, seguro y justo. Para lograr esto, debe haber un incentivo para atraer a los jóvenes a la profesión, lo cual es bastante difícil en la actualidad. Es importante mejorar las condiciones de esta carrera, especialmente en las primeras etapas. En el pasado, usted ya era profesor titular a la edad de 30 años, pero ahora tengo 29 y todavía tengo que comenzar como asistente.
P: Cuando hablas de motivación, ¿te refieres a recursos económicos?
R: Parcialmente, pero hay otros factores a considerar. Por ejemplo, sentir que estás progresando en tu carrera y consiguiendo puestos cada vez más relevantes. Sentirse valorado es fundamental para permanecer en España y seguir trabajando duro.
P: Completó su doctorado en Francia. ¿Crees que hay más posibilidades en el extranjero?
R. Hay muchas posibilidades, pero también en España. Las matemáticas hechas aquí y la investigación allí son de alta calidad. He tenido esta experiencia de vivir en el extranjero y estoy seguro de que tendré otras oportunidades de estudiar internacionalmente en mi carrera, lo que definitivamente agregará mucho valor a tu carrera y brindará mucha proyección. Pero mi objetivo final es quedarme en España, donde la investigación, al menos en mi campo, está progresando mucho, y la creciente importancia de la inteligencia artificial nos traerá mucho trabajo por delante.
Puedes seguir a PeriodistasdeGénero Tecnología en Facebook y Twitter o darte de alta aquí para recibir nuestra newsletter semanal.
