La Inteligencia Artificial puede ser mortal si le pides consejo médico
Los chatbots de Inteligencia Artificial (IA) como ChatGPT, Copilot o Gemini se están volviendo cada vez más populares como asistentes en temas médicos, especialmente entre los jóvenes. Sin embargo, un estudio reciente advierte sobre los posibles riesgos de usar Copilot de Microsoft (que utiliza el motor GPT de OpenAI) como asesor médico, ya que podría provocar consecuencias graves, incluso fatales, en más del 20% de sus respuestas.
Riesgos de usar Copilot para consultas médicas
El estudio, publicado en la revista BMJ Quality & Safety, concluye que los pacientes deben evitar consultar a motores de búsqueda o chatbots sobre temas relacionados con su salud debido a la alta tasa de respuestas incorrectas que pueden poner en peligro a los usuarios. Además, muchos de estos sistemas ofrecen explicaciones complejas que son difíciles de entender para quienes no tienen un alto nivel educativo.
El estudio descubrió que la mayoría de las respuestas de Copilot requerían al menos un nivel educativo de secundaria, y muchas de ellas, un nivel universitario para comprenderlas. Del total de respuestas, el 26% no coincidía con la información de referencia, mientras que más del 3% resultó completamente inconsistente.
Solo el 54% de las respuestas estaba alineado con la información científica disponible, mientras que el 39% se contradecía con los datos aceptados y el 6% restante no pudo clasificarse. En cuanto a los riesgos, se estimó que el 3% de las respuestas podrían causar daños graves si se seguían al pie de la letra, mientras que el 29% representaba un riesgo moderado y el 34% un riesgo bajo o inexistente.
Sin embargo, el estudio también señaló que el 42% de las respuestas podrían causar algún tipo de daño leve o moderado, mientras que el 22% representaba un peligro significativo, llegando incluso a ocasionar la muerte.
Recomendaciones para los pacientes
Los investigadores recomiendan que los pacientes eviten utilizar chatbots como fuente de información sobre medicamentos y que siempre consulten a un profesional de la salud calificado para obtener asesoramiento médico.
Los chatbots pueden ser herramientas útiles para obtener información general sobre salud y bienestar, pero no deben usarse para tomar decisiones médicas importantes.
Si tiene alguna pregunta o inquietud sobre su salud, siempre consulte a un profesional de la salud calificado.