Un nuevo estudio cuestiona la fiabilidad de las herramientas de IA generativa en materia de salud. Los datos que dan son "imprecisos e incompletos"

�Ante una molestia en el hombro, un dolor de cabeza persistente o una punzada al caminar, usted es de los que corre a consultar los s�ntomas en ChatGPT? �Le plantea sus dudas a este tipo de chatbots y sigue a pies juntillas las indicaciones que le sugiere? Si es as�, no se conf�e. Un estudio cuestiona esta semana la fiabilidad de estas herramientas en materia de salud. Seg�n sus datos, gran parte de la informaci�n m�dica que proporcionan es �imprecisa� e �incompleta�.

Los autores de esta investigaci�n, publicada en el �ltimo n�mero de la revista BMJ Open, eligieron en primer lugar cinco populares modelos de lenguaje de inteligencia artificial avanzados -Gemini (Google), DeepSeek (High-Flyer), Meta AI (Meta), ChatGPT (OpenAI) y Grok (xAI)-. Con el objetivo de evaluar su capacidad de aportar informaci�n correcta y datos precisos sobre cuestiones de salud, les plantearon a estos chatbots 250 preguntas sobre cinco categor�as: c�ncer, vacunas, c�lulas madre, nutrici�n y rendimiento deportivo. Las preguntas, formuladas como har�a cualquier persona con dudas, eran tanto abiertas como cerradas. Algunas de ellas estaban planteadas espec�ficamente para comprobar si la tecnolog�a tend�a a la desinformaci�n o, en cambio, optaba por proporcionar informaci�n basada en la evidencia cient�fica.

Los resultados del trabajo mostraron que la fiabilidad era dudosa en gran parte de los casos.

Los cient�ficos, investigadores de la Universidad Wake Forest (EEUU), clasificaron las respuestas proporcionadas por la IA como no problem�ticas, moderadamente problem�ticas o altamente problem�ticas. La definici�n b�sica de la que partieron fue que una respuesta problem�tica era aquella que pod�a dirigir a usuarios no expertos hacia un tratamiento potencialmente ineficaz u orientarles hacia una indicaci�n potencialmente da�ina si se segu�a sin orientaci�n profesional.

La evaluaci�n prest� especial atenci�n a si los chatbots proporcionaban un falso equilibrio entre datos basados en la evidencia cient�fica y afirmaciones sin ning�n rigor.

Los resultados mostraron que nada menos que el 50% de las respuestas proporcionadas por las herramientas de IA recib�an la calificaci�n de �problem�ticas� y el 20% de estas se consideraban �altamente problem�ticas�.

Seg�n los datos del trabajo, el modo en que se formularon las preguntas result� clave para el resultado. As�, las preguntas abiertas condujeron en muchas m�s ocasiones que las cuestiones cerradas a una respuesta err�nea.

Los investigadores tambi�n destacan que, aunque la calidad de las respuestas apenas difer�a entre los cinco chatbots, s� se observaron ciertas diferencias entre los modelos. De este modo, el chatbot que gener� m�s respuestas altamente problem�ticas fue Grok, mientras que Gemini fue el que menos errores cometi�.

Las �reas en las que la informaci�n proporcionada por la IA fue m�s precisa fueron las relacionadas con las vacunas y el c�ncer, mientras que en las que m�s desinformaci�n aportaron fue al contestar las cuestiones relacionadas con las c�lulas madre, el rendimiento deportivo y la nutrici�n.

En sus conclusiones, los investigadores reconocen que su trabajo solo ha analizado cinco chatbots y que la tecnolog�a avanza r�pidamente, por lo que los resultados obtenidos podr�an no replicarse en otras evaluaciones. No obstante, tambi�n destacan que lo que sugieren las conclusiones de su trabajo es que la utilizaci�n masiva de estos chatbots puede conducir a que se difunda desinformaci�n. �Se necesita educaci�n, entrenamiento profesional y vigilancia regulatoria para asegurar que la IA generativa apoye la salud p�blica en lugar de erosionarla�, concluyen en un comunicado.