Las interacciones cotidianas con asistentes virtuales y modelos de lenguaje como ChatGPT han generado un debate sobre si el uso de fórmulas de cortesía como ChatGPT realmente funciona. «Gracias» alguien «por favor» Al comunicarse con inteligencia artificial.
Aunque desde una perspectiva técnica, estos gestos implican costos computacionales significativos, las investigaciones muestran que un tono moderadamente cortés puede mejorar la calidad de las respuestas proporcionadas por los chatbots. este ciencia Está empezando a demostrar que ser amigable con la inteligencia artificial no es tan inútil como muchos piensan.
El impacto de la cortesía en las respuestas de la inteligencia artificial
Los investigadores probaron instrucciones en inglés, chino y japonés con distintos grados de cortesía, desde mensajes groseros hasta mensajes demasiado formales.
Los resultados muestran una clara tendencia: Las indicaciones muy aburridas o irrespetuosas producirán respuestas menos precisas y útiles. Por otro lado, un tono cortés pero no autoritario suele dar como resultado una respuesta más confiable, completa y organizada. Dicho esto, los mejores resultados conversacionales son aquellos que logran un equilibrio entre la brusquedad y la extrema formalidad.
Cómo funciona la inteligencia artificial y por qué responde de manera diferente a la cortesía
Lejos de interpretar la educación como genteel modelo de lenguaje funciona en base a los patrones de lenguaje presentes en el material de capacitación. La IA no “siente” cortesía ni se ofende por un comportamiento grosero, pero sí detecta y reproduce estilos de conversación.
Los mensajes claros, bien contextualizados y con un tono colaborativo pueden guiar al sistema a proporcionar respuestas más detalladas y relevantes, mientras que las instrucciones vagas o autoritarias tienden a producir respuestas más breves y menos detalladas.
Esta explicación está respaldada por el investigador de Google DeepMind, Murray Shanahan, quien comparó estos sistemas con pasantes inteligentes: Suelen adaptarse al estilo propuesto por el usuario y responden de forma más cooperativa y paciente cuando se sienten tratados con mayor educación. o colaboración.
Debate sobre la utilidad y el coste de educarse sobre los chatbots
El uso de fórmulas de cortesía a la hora de comunicarse con inteligencia artificial no está exento de polémica. Sam AltmanEl director ejecutivo de OpenAI advirtió que millones de mensajes de despedida y agradecimiento incurrirían en costos no despreciables de recursos y energía para mantener los servidores en funcionamiento.
Sin embargo, estudios y encuestas demuestran que muchos usuarios siguen utilizando estas expresiones no porque esperen una respuesta emocional por parte de la inteligencia artificial, sino porque forman parte de los hábitos comunicativos diarios.
La ciencia demuestra que a pesar de AI Sin ser consciente de la cortesía humana, mantener un tono educado y colaborativo ayudará a obtener una mejor respuesta.
Los chatbots fallan más cuando los usuarios son vulnerables
Un estudio realizado por el Centro para la Comunicación Constructiva (CCC) del MIT advierte que existe sesgo en los modelos lingüísticos más sofisticados, un factor que puede impactar negativamente en la calidad de las respuestas de usuarios con menor dominio del inglés, menores niveles de educación o que viven fuera de Estados Unidos.
Según los informes analizados, esta situación podría exacerbar las desigualdades globales en el acceso a la información.
El auge de herramientas como GPT-4 de OpenAI, Claude 3 Opus de Anthropic y Llama 3 de Meta ha aumentado las expectativas de un acceso más equitativo al conocimiento. Estas plataformas se promueven como soluciones para la democratización de la información, prometiendo interfaces universales e intuitivas independientemente de su fuente o Nivel educativo del usuario..
Sin embargo, una investigación del MIT CCC presentada en la Conferencia de Inteligencia Artificial de la AAAI muestra que los sistemas de IA a menudo brindan respuestas menos precisas y confiables a quienes más pueden beneficiarse de ellos.
La autora principal, Elinor Poole-Dayan, enfatizó: «Esta visión no se puede lograr sin garantizar que el sesgo del modelo y las tendencias dañinas se mitiguen de manera segura para todos los usuarios, independientemente del idioma, la nacionalidad u otros datos demográficos».
