ChatGPT es una máquina estúpida, tenemos que reprogramarla

Un gran mito que rodea a la innovación tecnológica es su promesa de crear cosas nuevas. De esta forma, ChatGPT parece ser la última manifestación del mayor desarrollo del ser humano en la historia. Después de que el motor de búsqueda de Google cambiara la forma en que adquirimos conocimiento y creara una especie de biblioteca digital universal, el prototipo de chatbot de Microsoft reconfigurará nuestra relación con la educación, el mundo laboral y cambiará fundamentalmente las relaciones humanas.

Más información

Excepto que la lógica de ChatGPT se hereda de la era de la Guerra Fría (comparación de patrones, diseñada para predecir y reaccionar en un entorno de guerra), los motores de búsqueda o el sistema GPS de Google o para otras tecnologías como el iPhone, la capacidad de clasificar ideas aparentemente racionales ilustra Obsession. una paradoja: la irracionalidad detrás de la forma en que entendemos la tecnología.

Por un lado, porque trata de solucionar los problemas creados por el mundo “antes” digital, que acaba creando más problemas. Esto es lo que Evgeny Morozov llama solucionismo: debido a que esta IA ha sido entrenada en miles de millones de páginas e información de Internet, hasta hace poco pensábamos que era una pieza de océanos de noticias falsas, por lo que muchas de las respuestas que brinda son desacertadas. A pesar de sus capacidades de generación de texto, la herramienta representa una forma de institucionalizar la desinformación, aunque ahora con complementos y avisos sofisticados.

Pero, ¿alguien piensa que esta será la tecnología que recordarán los libros de historia para las bibliotecas del siglo XXI, como la institución cultural similar que creó Felipe II en El Escorial? El problema es que ChatGPT está tratando de abordar problemas de nuestra sociedad que debemos abordar de manera diferente. En educación, por ejemplo, la pregunta es si las máquinas podrán crear documentos automáticamente o si el sistema educativo público (primero sufrirá recortes, luego Googleificación) seguirá siendo incapaz de disfrutar de infraestructuras digitales innovadoras propias.

El problema no es que los estudiantes tengan más herramientas para replicar, sino que la educación no tiene un modelo de enseñanza y aprendizaje que priorice la adquisición de habilidades analíticas y sintéticas sobre el dominio de la información. La cuestión, expresada por el filósofo Roberto Mangabeira Unger, es cómo crear herramientas que ayuden a las personas a alcanzar una cierta profundidad de elección, en lugar de evitar la superficialidad enciclopédica en el tratamiento de los contenidos, o priorizar el trabajo colaborativo (entre alumnos, profesores y centro) en lugar de individualismo y autoritarismo en el aula. Para abordar cada tema desde una perspectiva contrastante y realista, necesitamos un tipo de IA muy diferente de ChatGPT: máquinas entrenadas con otros conjuntos de datos, diseñadas para aprender o descubrir nuevos autores y fragmentos de conocimiento, en lugar de automatizar modelos de enseñanza obsoletos.

Cosas similares suceden en otros campos. En Mean Jobs, el antropólogo estadounidense David Graeber desarrolla una teoría en la que afirma que la existencia de trabajo sin ningún propósito es corrosiva para la sociedad y psicológicamente destructiva. Entonces, ¿por qué estamos creando inteligencia artificial para tratar de resolver este problema mediante la automatización de estos trabajos, en lugar de crear máquinas para reducir la cantidad de trabajo, con ganancias de capital derivadas de alguna forma de distribución de la Renta Básica Universal, como propone Francis Cabria y permitir humanos creatividad para expresarse libremente?

Evgeny Morozov argumenta que ChatGPT no es inteligente ni artificial: extrae su poder del trabajo de los humanos, ya sean artistas, músicos, programadores o escritores, de cuyo trabajo creativo y profesional se apropia en nombre de salvar la civilización. Dada esta realidad, ¿cómo reprogramamos la IA para que la inteligencia humana sea visible, capaz de crear arte, ficción cultural o nuevas historias, sin gastar grandes cantidades de dinero y energía en centros de datos y modelos de aprendizaje automático? ¿No sería más inteligente repensar la biblioteca digital del siglo XXI en términos de criterios de sostenibilidad, creando herramientas para dar forma al futuro en el que queremos vivir, utilizando el conocimiento de éxitos pasados, en lugar de automatizar cosas como el calentamiento global o el cuestionamiento de robots?

Ekaitz Cancela es autor de Utopía digital: imaginando el fin del capitalismo (Verso Libros, 2023).

Puedes seguir a PeriodistasdeGénero Tecnología en Facebook y Twitter o darte de alta aquí para recibir nuestra newsletter semanal.

DEJA UNA RESPUESTA

Por favor ingrese su comentario!
Por favor ingrese su nombre aquí