Google ha eliminado algunos de sus resúmenes generados por inteligencia artificial del búsquedas relacionadas con la salud tras detectar que estos podrían ofrecer información engañosa y poner en riesgo a los usuarios.
Estas medidas se produjeron después de que una investigación de The Guardian expusiera casos en los que los llamados ‘Resumen de IA’, los fragmentos de texto generados por IA y mostrados al inicio de los resultados, contenían información incorrecta sobre consejos médicos, pruebas y síntomas de enfermedades.
Anna JoyaEl director de apoyo e investigación de Pancreatic Cancer UK, dijo a los medios británicos que esta indicación «podría ser realmente peligrosa y poner en riesgo las posibilidades de tratamiento del paciente». Además, si una persona sigue este consejo podría dejar de consumir las calorías necesarias para someterse a intervenciones como quimioterapia o cirugía.
Otro caso grave fue el de información ofrecida sobre pruebas de función hepática. los resúmenes de inteligencia artificial Proporcionaron valores de referencia para las pruebas hepáticas sin aclarar que estos varían según la nacionalidad, sexo, etnia y edad. Pamela HealeyEl director ejecutivo del British Liver Trust, advirtió que este tipo de respuesta puede llevar a personas con enfermedades graves a pensar que sus resultados son normales y no acudir a controles médicos.
Los errores también alcanzaron las búsquedas de evidencias y síntomas de cáncer ginecológico. Al consultar por pruebas de cáncer de vagina, AI Google catalogó la prueba de Papanicolaou como método de diagnóstico, aunque este estudio no detecta este tipo de cáncer. Atenea Lamnisosdirectora de Eve Appeal, ha destacado que recibir información incorrecta puede llevar a las mujeres a no consultar los síntomas porque creen que están protegidas por un tipo de prueba diferente.
Según el informe, los resúmenes de Google También presentaron problemas en las consultas de salud mental. Para enfermedades como la psicosis o los trastornos alimentarios, las respuestas ofrecían consejos incorrectos, peligrosos o que podían desalentar la búsqueda de ayuda profesional. Esteban BuckleyEl director de información de Mind, señaló que los resúmenes omitían contexto relevante, sugerían fuentes inapropiadas y, en ocasiones, reforzaban estereotipos o narrativas estigmatizantes.
La reacción de Google y los desafíos a abordar en los resultados de búsqueda
Ante estos hallazgos, Google Se eliminaron resúmenes de IA para varias búsquedas problemáticas, en particular aquellas que incluían consultas sobre valores normales de las pruebas de función hepática.
La compañía dijo que revisa continuamente la calidad de estos resúmenes y cuenta con un equipo de médicos para evaluar los casos reportados. Un portavoz dijo que la mayoría de los resúmenes de IA brindan información precisa y que la compañía está invirtiendo en mejorar la calidad de estos fragmentos, particularmente en temas de salud.
Sin embargo, organismos especializados consideran que la solución adoptada sólo responde a casos puntuales y no soluciona la raíz del problema. vanessa hebditchDirectora de comunicaciones y políticas del British Liver Trust, acogió con satisfacción la eliminación de opiniones generales dañinas, aunque expresó su preocupación de que la medida solo abordaría búsquedas específicas y no el desempeño general de AI Overviews en temas de salud.
Investigación sobre resúmenes inteligencia artificial en búsquedas de Google Reveló que la información generada puede variar entre consultas idénticas realizadas en diferentes momentos, ya que los fragmentos se alimentan de diferentes fuentes en cada ocasión. Esta variabilidad preocupa a las entidades médicas y asociaciones de pacientes, que ven un riesgo en la falta de coherencia de la información médica entregada por la IA.
