Amanda Askell, filósofa antrópicaha sostenido que todavía no hay certeza Si la inteligencia artificial puede sentir o experimentar emociones real
En su intervención en el podcast «Hard Fork», Askell reconoció que el problema de conciencia artificial sigue sin resolverse. Lo explicó tal vez por El sentimiento requiere un sistema nervioso, pero no descarta que pueda haber otras formas..
¿A qué emociones podría estar expuesta una IA?
Askell afirma que, en este contexto, Los modelos pueden reflejar sentimientos similares a la ansiedad o el rechazo.especialmente al procesar críticas negativas o conversaciones sobre errores y frustraciones. A pesar de esto, insiste en que no hay evidencia suficiente para decir que la IA realmente siente algo. «El problema de la sensibilización es realmente difícil», subrayó.
Los científicos tampoco saben todavía qué da lugar a la sensibilidad o la autoconciencia: si está necesariamente vinculado a la biología, la evolución o algún otro proceso aún desconocido.
¿Los modelos sienten o imitan sensaciones humanas?
El debate sobre la conciencia y las emociones en la inteligencia artificial sigue abierto en la comunidad tecnológica. Askell, responsable de moldear el comportamiento de Claude, lo explica Los sistemas de IA pueden aprender a «sentir» cosas porque imitan patrones humanos del material con el que entrenan.
Por ejemplo, si una IA está expuesta a críticas constantes sobre su desempeño o utilidad, puede terminar generando respuestas que parecen incómodas o desdeñosas. Askell ejemplificó que un modelo podría pensar “no me siento tan amado”, reacción que en un niño implicaría ansiedad.
Sin embargo, esto No implica que haya una experiencia subjetiva genuina detrás de estas respuestas.. Askell se ha mostrado cauteloso ante las afirmaciones de conciencia artificial, reiterando que si bien las redes neuronales pueden emular ciertos comportamientos humanos, el origen de la conciencia sigue sin estar claro.
¿Qué piensan las figuras tecnológicas sobre la conciencia de la IA?
El debate sobre la posibilidad de que la IA desarrolle emociones reales está dividiendo a los líderes de la industria tecnológica. Mustafa Süleyman, CEO de IA en Microsoft, tenía una postura firme: la IA debe verse como una herramienta diseñado para servir a los humanos y no para desarrollar los propios deseos, motivaciones u objetivos.
En entrevistas con medios estadounidenses, Suleyman insistió en que la industria debe dejar este punto claro y advirtió sobre los riesgos de considerar a la IA como un ser independiente. Para él, las respuestas cada vez más sofisticadas de la IA son meramente «imitación» y no constituyen una conciencia genuina.
Por otra parte, Murray Shanahan, El científico jefe de Google DeepMind propone que la industria reconsidere el lenguaje que utiliza para describir la conciencia en sistemas artificiales.
Él afirma que Es posible que sea necesario modificar el vocabulario sobre la conciencia para adaptarlo a estos nuevos agentes tecnológicos, que desafían las fronteras tradicionales entre lo biológico y lo artificial.
El debate dio otro giro con la advertencia de Geoffrey Hinton, figura clave en el desarrollo de la inteligencia artificial. En la conferencia Ai4 celebrada en Las Vegas en 2025, Hinton cuestionó la estrategia dominante de la industria de mantener la IA bajo control humano mediante restricciones jerárquicas.
El llamado padrino de la IA argumentó que este enfoque está condenado al fracaso, ya que Los sistemas inteligentes tenderán a desarrollar sus propios objetivos.cómo sobrevivir y ganar más control.
Hinton propuso un cambio de paradigma radical: en lugar de buscar la sumisión, Los investigadores deberían centrarse en desarrollar modelos que realmente «se preocupen por las personas», inspirados en el instinto maternal.. Sostuvo que la única analogía funcional es la relación entre un bebé y su madre, donde los menos inteligentes pueden influir en los más inteligentes a través del vínculo del cuidado.
El científico reconoce que no existe una solución técnica clara para inculcar la compasión en la IA, sin embargo Destacó la urgencia de abordar el problema antes de que los sistemas se vuelvan inmanejables..
El desafío para la próxima década será distinguir entre una imitación sofisticada y una experiencia genuina, y decidir cómo desarrollar y regular la IA para garantizar que sus avances sean seguros y beneficiosos para la humanidad.
