Estas máquinas, y los algoritmos que las hacen funcionar, comenzaron a comprender oraciones simples en inglés en la década de 1960. Posteriormente, aprendieron a traducir textos más complejos a cientos de idiomas, filtrar nuestros correos electrónicos y reconocer textos escritos a mano. Hoy son capaces de ganarnos en juegos de estrategia y lógica, entender y actuar en base a lo que decimos, ayudar a los médicos y vencer a los mejores jugadores de ajedrez o Go.
Un bot es un programa informático que imita el comportamiento humano y un chatbot es un robot que simula una conversación con una persona. El primero ha existido durante posiblemente 50 años. El segundo, los chatbots, están apareciendo por todas partes. En los medios, estos algoritmos se denominan inteligencia artificial. Prefiero llamarlos algoritmos informáticos porque son muchos cálculos además de algoritmos específicos de inteligencia artificial (IA), que forman parte de la informática.
Los programas de última generación capaces de comprender el habla humana y mantener conversaciones lógicas y pseudointeligentes, y también ser capaces de soportar múltiples idiomas, también han permitido avances masivos en la traducción automática y han permitido que la traducción instantánea vea el horizonte. La funcionalidad de la herramienta ChatGPT es un buen ejemplo de lo que estamos hablando.
Pero lograr esta comprensión automática de la información no es fácil porque un programa informático no solo debe leer o escuchar la información, sino también correlacionarla e interpretarla para comprenderla y poder actuar o responder en consecuencia. Si alguien dice “Sevilla” en una conversación, un algoritmo informático debe ser capaz de distinguir si se está refiriendo a la ciudad o al club de fútbol, y para ello no solo necesita ser capaz de procesar el lenguaje, sino que también necesita mucha información, definiciones de conceptos y conocimientos básicos, para que pueda razonar a partir del contexto y extraer soluciones como un ser humano.
Las máquinas informáticas y los algoritmos son el futuro y, en muchos casos, ya son el presente, y sus avances inspiran sorpresa, miedo y, a menudo, preocupación. Sin duda, una de las principales preocupaciones con los algoritmos informáticos y su avance es su capacidad para hacer suposiciones sobre decisiones que rivalizan con los humanos. La realidad es que, a diferencia de las historias que nos cuentan algunas películas, las máquinas, los algoritmos no son conscientes de su propia existencia, no tienen objetivos ni sentimientos propios. Eso está a siglos de distancia de nuestras capacidades tecnológicas actuales.
Pero, ¿los algoritmos necesitan una brújula moral? La UNESCO ha tomado la iniciativa. Sus 193 miembros aprobaron esta semana una lista de recomendaciones que espera se convierta en la primera guía de ética del mundo. La guía se puede encontrar aquí.
La recomendación 26 es exhaustiva: «Los sistemas de IA no deben utilizarse con fines de clasificación social o vigilancia masiva». Otro comité de 36 años estipuló que «los sistemas de IA nunca pueden reemplazar la responsabilidad final y la rendición de cuentas de los humanos». «Como regla general, agrega el texto, las decisiones de vida o muerte no deben dejarse en manos de los sistemas de IA».
Pero el debate es más profundo.
¿Existe algún partido político dirigido por algoritmos informáticos cuyo líder sea un chatbot? Puede sonar a ciencia ficción oa la trama de una serie distópica, pero es un hecho real, el partido ya existe y forma parte de la campaña electoral danesa. Se llama Partido Sintético y está dirigido por el líder Lars, un chatbot con el que cualquier ciudadano puede hablar.
Los promotores del partido integrado están ansiosos por participar en las próximas elecciones de Dinamarca. Para ello, piden que se cambie la ley para que los algoritmos puedan presentarse como candidatos en las elecciones. Lo que están pidiendo no es un grupo de personas sugeridas por el algoritmo para que se presenten. Quieren algoritmos informáticos para poder participar en las elecciones y tomar decisiones políticas relevantes en función de sus interacciones con los votantes.
Pero, ¿cuál es su ideología? ¿Progresista o conservador? “La fiesta es ómnibus, literalmente homogeneizando lo que parece contradictorio o diferente”, explica Asker Bryld Staunaes, miembro del colectivo de artistas Computer Lars y MindFuture Tech Center, y el principal creador y facilitador de la fiesta ómnibus.
Hay otros movimientos similares en otras partes del mundo. Lo llamaron un político virtual. La información sobre estos movimientos y artículos relacionados se pueden encontrar en Wikipedia.
Pero la pregunta es: ¿Queremos que los algoritmos informáticos funcionen en las elecciones? Mi respuesta es no. No, por varias razones. En primer lugar, la política es una empresa humana fundamental. Esta es la actividad que utilizamos para tomar decisiones globales. La política es inherentemente conflictiva y la sociedad tiene intereses en conflicto, por lo que nos están mintiendo cuando abogan por políticas integrales y neutrales por encima de los intereses.
Siguiendo la recomendación de la Unesco, creo que siempre tiene que haber un ser humano responsable de las recomendaciones que hace el algoritmo, sobre todo en el ámbito político. Del mismo modo, creo que deberíamos responsabilizar a un ser humano por cada decisión que pueda tomar un algoritmo, en lugar de escondernos detrás de él. Ya sea para solicitar una hipoteca, ingreso hospitalario prioritario, etc.
Abogo por la importancia de la política, la participación política y la necesidad de los políticos. Defender decisiones tomadas por algoritmos informáticos es pensar que la neutralidad es posible y que los políticos deben desaparecer. Este es un movimiento antipolítico que, si lo pensamos bien, prefiere mantener el statu quo.
Miguel Toro es Catedrático de Lenguajes y Sistemas Informáticos en la Universidad de Sevilla.
Crónicas de lo intangible es un espacio de divulgación de la informática, coordinado por la asociación académica SISTEDES (Sociedad de Ingeniería de Software y de Tecnologías de Desarrollo de Software). Lo intangible es la parte inmaterial de un sistema informático (es decir, software) cuya historia y evolución son relevantes aquí. Los autores son profesores de universidades españolas, coordinados por Ricardo Peña Marí (catedrático de la Universidad Complutense de Madrid) y Macario Polo Usaola (profesor titular de la Universidad de Castilla-La Mancha).
Puedes seguir a PeriodistasdeGénero TECNOLOGÍA en Facebook y Twitter o darte de alta aquí para recibir nuestra newsletter semanal.