Sociedades científicas de primaria, dolor y reumatología, colegios profesionales y asociaciones de fisioterapia, farmacia y enfermería, asociaciones de pacientes, grupos de investigación, expertos en IA y en comunicación en salud, reunidos por el Instituto #SaludsinBulos hemos creado el primer consenso sobre asistentes conversacionales en salud. El objetivo del documento es establecer criterios para el desarrollo y validación de los chatbots basados en Inteligencia Artificial, que han proliferado en los dos últimos años tras la disrupción provocada por ChatGPT. Este consenso, junto con otro sobre discapacidad al que se han adherido más entidades, servirá de base para la creación de un comité multidisciplinar que ofrecerá recomendaciones sobre los asistentes conversacionales en salud y fomentará su investigación y desarrollo.
Los chatbots inteligentes han demostrado que pueden ayudar a los profesionales sanitarios a mejorar el diagnóstico y tratamiento, reducir los tiempos de consulta, orientar a los pacientes frente a los bulos, y educar y motivar sobre hábitos saludables, aunque también tienen algunos riesgos.
Uno de ellos es el de los sesgos derivados de los intereses del desarrollador o de fuentes de datos deficientes, que no contemplen la diversidad de género, raza o funcionalidad física o intelectual. Por ese motivo, los expertos reunidos en el consenso exigen que se transparenten las fuentes de estos asistentes conversacionales, así como sus intereses. Otro de los riesgos es el de las alucinaciones o datos inventados. Aunque los nuevos modelos reducen este riesgo, sigue existiendo, sin que quede claro quién es el responsable de la información. En el consenso se enfatiza la importancia de que la información esté supervisada por profesionales sanitarios y que se remita a los mismos para su comprobación. Si el riesgo del Doctor Google es alto cuando se refiere a autodiagnóstico y autotratamiento, con la llegada de los chatbots es aún mayor.
‘Los chatbots inteligentes han demostrado que pueden ayudar a los profesionales sanitarios a mejorar el diagnóstico y tratamiento’
La capacidad que tienen estos sistemas de Inteligencia Artificial de proporcionar información en un lenguaje comprensible, adaptado a cada usuario, y hacerlo en un tono empático, es una ventaja para educar, mejorar la adherencia al tratamiento y reducir el gasto sanitario, pero también puede conducir a creer que no hay que contrastar los datos con un profesional sanitario o que, incluso, no es necesaria su intervención para el diagnóstico y tratamiento. Por eso, es importante que lo recalquen en sus respuestas.
Otra de las preocupaciones que suscitan los chatbots es la privacidad de los datos. Si bien disponer de mucha información de los pacientes y del modo en que consultan puede ayudar a que la consulta sea mucho más individualizada y facilitar una orientación al diagnóstico más exacta, también existe el riesgo de que esos datos queden almacenados y procesados sin control.
Una de las aplicaciones de este consenso ha sido el desarrollo de proyectos de asistentes conversacionales en salud en el Hackathon Salud, organizado por la agencia COM Salud, la Asociación de Innovadores en eSalud y la plataforma ITEMAS, que reúne las unidades de innovación de los centros sanitarios públicos. En él, equipos en los que participan profesionales sanitarios han presentado modelos de asistentes conversacionales para el dolor, la fisioterapia y la discapacidad, tanto en formato idea y como en proyectos en fase beta.
Cualquier persona puede crear un chatbot de salud, lo que supone una oportunidad para acercar la información y educación sanitaria a cualquier necesidad, pero también un riesgo de desinformación si no cuenta con el entrenamiento y los controles adecuados. Con la creación del comité multidisciplinar para impulsar la investigación y el desarrollo sobre estos sistemas desde el punto de vista ético creemos que estamos más cerca de mejorar la asistencia sanitaria y combatir la desinformación.
