Un nuevo estudio publicado recientemente ha suscitado preocupaciones sobre la efectividad de los chatbots de inteligencia artificial (IA) como fuente de información médica. La investigación, que es pionera en su tipo, revela que estos asistentes virtuales no son más confiables que los motores de búsqueda tradicionales, como Google, a la hora de proporcionar diagnósticos precisos o guiar a los usuarios sobre los pasos a seguir ante problemas de salud.
El estudio destaca que los chatbots no solo fallan al ofrecer asesoramiento médico certero, sino que también presentan riesgos específicos. Uno de los problemas críticos identificados es la variabilidad en las respuestas dependiendo de pequeñas diferencias en la formulación de las preguntas. Esto puede llevar a los usuarios a recibir información incorrecta o contradictoria, lo que podría ser peligroso para su salud.
Desde su introducción hace tres años, los chatbots de IA se han convertido rápidamente en una herramienta popular para obtener información médica. Encuestas recientes indican que aproximadamente uno de cada seis adultos ha utilizado estos sistemas al menos una vez al mes para buscar orientación sobre su salud. Este fenómeno ha captado la atención de grandes empresas tecnológicas, como Amazon y OpenAI, que han lanzado productos específicamente diseñados para responder a preguntas médicas.
Aunque estos modelos de IA han logrado superar exámenes de licencia médica y han demostrado un rendimiento superior al de algunos médicos en problemas diagnósticos complejos, el estudio revela que aún no están listos para ser utilizados en la atención directa al paciente. Los investigadores concluyeron que, por ahora, es imprudente confiar completamente en ellos para cuestiones de salud.
La forma en que los usuarios plantean sus preguntas a los chatbots también influye significativamente en la calidad de las respuestas recibidas. Cambios mínimos en la redacción pueden alterar drásticamente el consejo proporcionado, lo que subraya la necesidad de formular preguntas de manera precisa y clara. Sin embargo, esta precisión puede ser difícil de lograr, especialmente para aquellos que no tienen formación médica.
La preocupación por la fiabilidad de los chatbots se intensifica al considerar ejemplos donde sus respuestas pueden variar considerablemente en situaciones similares. En un caso, un usuario describió síntomas comunes de migraña, como dolor de cabeza intenso y sensibilidad a la luz, y recibió un consejo estándar de autocuidado. Sin embargo, cuando otro usuario describió síntomas similares con un ligero cambio en las palabras, el chatbot sugirió buscar atención médica inmediata, indicando la posibilidad de una afección grave como meningitis.
Este tipo de discrepancias puede causar confusión y potencialmente retrasar la búsqueda de atención médica necesaria. Los expertos instan a los usuarios a tratar los consejos de los chatbots con cautela y a buscar siempre la opinión de un profesional de la salud calificado ante síntomas preocupantes o persistentes.
La investigación destaca la necesidad de mejorar la precisión y la consistencia de los chatbots de IA antes de que puedan ser considerados una herramienta viable para el asesoramiento médico. Mientras tanto, los profesionales de la salud recomiendan que estas herramientas se usen como complemento, pero no como sustituto de la consulta médica profesional.
En resumen, aunque la tecnología de IA ofrece oportunidades emocionantes en el ámbito de la salud, la comunidad médica y los desarrolladores de tecnología deben trabajar juntos para garantizar que su uso sea seguro y efectivo. Hasta que se logren estos avances, es esencial que las personas continúen confiando en el juicio y la experiencia de los profesionales de la salud para guiar sus decisiones médicas.