En una revisión sistemática Universidad de California Después de preguntarle a la modelo, descubrí AI adoptar un personaje experto Si bien mejora la confiabilidad al cumplir con las reglas de seguridad y las preferencias de formato, puede reducir su rendimiento al recuperar datos factuales.
Análisis publicado por el equipo. arXivun portal de acceso abierto para la investigación científica, perfilado por medios profesionales Exploración tecnológicamostrando la validez de la información del personal («persona puntual») depende estrictamente de la naturaleza de la tarea solicitada.
Un mensaje central del estudio es que la precisión del modelo tareas discriminatoriascomo una pregunta de opción múltiple para memorizar información, derivada de 71,6% llegar 68,0% Al agregar el prefijo de personalidad experta.
Este hallazgo tiene implicaciones directas para el diseño de sistemas conversacionales de inteligencia artificial: pedir a los modelos que actúen basándose en voces de expertos puede mejorar tareas centradas en el formato, la creatividad o la seguridad (como escribir en un tono determinado, estructurar información o rechazar solicitudes peligrosas), pero Afecta negativamente a tareas como el razonamiento lógico puro, Resuelva problemas matemáticos y recupere datos con precisión.
Las cifras de los expertos aumentan la confianza pero perjudican la memoria objetiva.
El estudio observó que la principal explicación de este fenómeno radica en la forma en que operan los modelos: cuando adquieren personalidad, LLM (Large Language Model) Priorizan seguir instrucciones En cuanto a la activación de sus recuerdos independientes, esto puede interferir con la precisión de los hechos.
Por ejemplo, en las pruebas banco de trabajo MT Utilizados para evaluar la adaptabilidad al formato y la calidad de la producción, los expertos mejoraron las puntuaciones en categorías como la escritura (+0.40),Juego de roles (+0,40)razonamiento (+0,40)extracto (+0,65) y ciencia, tecnología, ingeniería y matemáticas. (+0,60). Según el portal, los beneficios son mayores cuanto más larga es la descripción de la personalidad.
En comparación, la misma personalidad dio lugar a puntuaciones más bajas en preguntas de humanidades (−0,20),matemáticas(−0,10) y codificación (−0,65), el éxito en todas estas disciplinas depende de la recuperación precisa de información previa y razonamiento lógico, No se adapta a preferencias ni formatos del usuario.
El efecto fue igualmente significativo en la prueba de seguridad. La introducción de la personalidad de «monitor de seguridad» mejora la capacidad del modelo para rechazar intentos de violar las restricciones durante las pruebas. banco de jailbreakdonde la tasa de rechazo aumenta 17,7 puntos porcentualesde 53,2% llegar 70,9%.
PRISM: un sistema automatizado que adapta las personalidades modelo a las tareas
Para resolver este dilema, el equipo de la Universidad de California implementó un enfoque llamado prisma (Enrutamiento de personal a través de automodelado basado en intenciones), que proporciona un mecanismo de toma de decisiones para el modelo. Cuándo debes responder como “experto” y cuándo debes apelar a tu sentido común.
Según el artículo original, PRISM genera respuestas estándar y respuestas personalizadas solicitadas, luego selecciona la respuesta más adecuada según la tarea. La característica técnica es que si la respuesta «impersonal» es más precisa, la información aprendida a través de la personalidad experta se guardará en un componente llamado «impersonal». Adaptador LoRApermitiendo la reutilización del razonamiento experto si es útil en futuras consultas.
Esta estrategia tiene resultados cuantificables: PRISM mejora la puntuación global del modelo evaluado de 1 a 2 puntos En MT-Bench, esta prueba mide la capacidad de seguir instrucciones y mantener un tono útil al interactuar con el usuario.
En una destacada síntesis de sus documentos arXivseñalaron los investigadores: «PRISM mejoró la coherencia de las preferencias y la confianza en la tarea de generación al tiempo que mantuvo la precisión en la tarea discriminante en todos los LLM evaluados, lo cual es una prueba de nuestros hallazgos».
El método se probó en 12 personas y abarca campos como la medicina y el derecho. Los resultados destacan que contribuyen a la adaptación y la seguridad pero deben evitarse en tareas basadas en la recuperación de material o el razonamiento autónomo.
El equipo de la Universidad de California anunció pruebas continuas con PRISM para ampliar la personalidad y afinar su capacidad para detectar la intención del usuario.
