Qué tener en cuenta antes de pedir consejos de salud a un chatbot de inteligencia artificial

Expertos advierten sobre los riesgos de usar IA para diagnósticos y consultas médicas

El uso de herramientas de inteligencia artificial para resolver dudas sobre síntomas, tratamientos o resultados médicos sigue creciendo en todo el mundo. Sin embargo, especialistas en ciberseguridad alertan sobre los riesgos que implica confiar en chatbots de IA para recibir orientación en temas de salud, especialmente por posibles errores en las respuestas y la exposición de información sensible de los usuarios.

Actualmente, plataformas como Copilot Health, ChatGPT Health y Amazon HealthAI permiten a las personas interpretar exámenes médicos, consultar síntomas y obtener información sobre posibles tratamientos. Aunque estas herramientas ofrecen respuestas inmediatas y están disponibles las 24 horas del día, no sustituyen el criterio profesional de un médico ni las evaluaciones clínicas especializadas.

Según explicó Mario Micucci, investigador de Seguridad Informática de ESET Latinoamérica, uno de los principales riesgos radica en la cantidad de información personal que los usuarios comparten con estos sistemas. El experto señaló que el problema no se limita a recibir una recomendación equivocada, sino también a que datos altamente sensibles podrían quedar expuestos o ser compartidos con terceros sin que el usuario sea plenamente consciente de ello.

Además, estudios recientes han encendido las alarmas sobre la confiabilidad de estos modelos. Una investigación de la Universidad de Oxford, publicada en la revista Nature Medicine, encontró que los usuarios suelen recibir respuestas diferentes ante preguntas similares y que los sistemas combinan información acertada con recomendaciones incorrectas, dificultando la capacidad de distinguir entre ambas.

La autora principal del estudio, la doctora Rebecca Payne, advirtió que la inteligencia artificial todavía no está preparada para asumir el papel de un profesional de la salud. Según la investigadora, consultar síntomas a través de modelos de lenguaje puede derivar en diagnósticos erróneos e incluso retrasar la búsqueda de atención médica urgente cuando realmente se necesita.

Los riesgos de privacidad detrás de las consultas médicas con IA

Uno de los aspectos que más preocupa a los especialistas es la privacidad de la información. Los datos médicos son considerados entre los más sensibles y valiosos para los ciberdelincuentes, por lo que compartirlos con plataformas digitales puede representar un riesgo importante.

Diversos proveedores utilizan la información proporcionada por los usuarios para mejorar y entrenar sus modelos, salvo que la persona desactive expresamente esa opción. Aunque algunos servicios enfocados en salud aseguran que no utilizan estos datos para entrenamiento, esto no significa necesariamente que la información no pueda compartirse con intermediarios, proveedores tecnológicos o terceros relacionados con la prestación del servicio.

Los expertos advierten que, incluso cuando los datos son anonimizados, siempre existe la posibilidad de filtraciones, brechas de seguridad o usos no previstos inicialmente, especialmente cuando la información circula entre múltiples organizaciones.

¿Por qué los datos de salud son tan atractivos para los delincuentes?

La información médica tiene un valor especial en el mercado ilegal debido a que puede utilizarse durante largos periodos de tiempo. Los delincuentes pueden emplearla para presentar reclamaciones fraudulentas a aseguradoras, acceder a servicios médicos de forma irregular o incluso realizar extorsiones.

De acuerdo con especialistas en ciberseguridad, cada nueva empresa que almacena información médica representa un posible punto de vulnerabilidad frente a ataques informáticos. Además, muchas herramientas de inteligencia artificial orientadas al consumidor no están sujetas a las mismas regulaciones estrictas que los hospitales o entidades de salud.

Por esta razón, la protección de los datos personales debe convertirse en una prioridad para cualquier usuario que decida interactuar con plataformas de inteligencia artificial relacionadas con temas médicos.

Recomendaciones para usar chatbots de IA de forma segura

Los expertos recomiendan utilizar preferiblemente herramientas diseñadas específicamente para temas de salud y verificar previamente cómo gestionan la información de los usuarios. También aconsejan revisar si el servicio explica claramente el uso de los datos, la existencia de políticas de privacidad y la posibilidad de desactivar funciones de entrenamiento.

Asimismo, insisten en que ninguna respuesta generada por inteligencia artificial debe considerarse un diagnóstico definitivo. Lo ideal es contrastar la información con fuentes oficiales y consultar siempre a un profesional de la salud antes de tomar decisiones médicas.

Entre las principales recomendaciones de seguridad se encuentran:

• No compartir historias clínicas, exámenes médicos o resultados de laboratorio sin conocer el manejo que recibirá esa información.
• Evitar suministrar nombres completos, direcciones, números de seguro o datos personales identificables.
• Desactivar, cuando sea posible, el historial de conversaciones y las funciones de entrenamiento del sistema.
• Compartir únicamente la información estrictamente necesaria para realizar una consulta.
• Asumir que cualquier dato ingresado podría almacenarse o ser utilizado posteriormente.

El avance de la inteligencia artificial está transformando múltiples sectores, incluido el de la salud. Sin embargo, especialistas coinciden en que la tecnología debe ser vista como una herramienta de apoyo y no como un reemplazo de la atención médica profesional, especialmente cuando están en juego decisiones que afectan la salud y la seguridad de las personas.