Este artículo pertenece al Informe para el Congreso Nacional del Dolor y Fisioterapia, realizado por esta misa autora.

¿Se (debe) remitir a un profesional sanitario? ¿falsas esperanzas?

Es necesario hablar de varias cuestiones para poder dar respuesta.

En primer lugar, existen preocupaciones sobre la falta de conocimientos técnicos del paciente (promedio) y los efectos ambiguos de medidas como la transparencia. La confianza en la IA no siempre se basa en una deliberación racional, lo que puede llevar a una confianza equivocada o manipulada. Resulta imprescindible poner el foco en el vínculo de la confianza con la salud más allá de que los proveedores y responsables de despliegue de los sistemas de IA clasifiquen el riesgo conforme al Reglamento europeo de Inteligencia Artificial.

En segundo lugar, debe mencionarse que la aplicación de IA en medicina debe integrarse en los planes de formación de los profesionales sanitarios en cuestiones legales y éticas impartidas por expertos y académicos en la materia conocedores de la tecnología.

En tercer lugar, es necesario garantizar la seguridad mediante mecanismos específicos, especialmente para la IA de alto riesgo, asegurando la supervisión y control humano. La supervisión del sanitario es un requisito fundamental para los sistemas de IA de alto riesgo, como los utilizados en salud. Esto implica mantener la participación activa de personas en la operación y toma de decisiones de estos sistemas automatizados.

La supervisión del sanitario es crucial para prevenir y corregir errores o resultados inesperados generados por la IA, permitiendo una revisión crítica de posibles sesgos en los algoritmos y la implementación de correcciones, todo ello, mientras se verifica que se garantice el cumplimiento ético y legal.

Ejemplos donde es esencial y de obligado cumplimiento la intervención del profesional de salud:

Diagnóstico asistido por IA en radiología. Aunque la IA puede analizar imágenes médicas y detectar anomalías, el radiólogo humano sigue siendo crucial para interpretar los resultados, contextualizar los hallazgos y tomar decisiones finales de diagnóstico.

Monitorización de pacientes. Los dispositivos wearables equipados con IA pueden rastrear parámetros de salud en tiempo real, pero los profesionales sanitarios son esenciales para interpretar estas alertas, evaluar el contexto clínico del paciente y determinar las intervenciones necesarias.

Tratamientos personalizados. Aunque la IA puede analizar datos para sugerir tratamientos personalizados, el médico es fundamental para evaluar la idoneidad del tratamiento propuesto, considerar factores no cuantificables y tomar la decisión final en colaboración con el paciente.

Telemedicina. En las consultas virtuales asistidas por IA, el profesional sanitario sigue siendo esencial para establecer una relación terapéutica con el paciente, realizar evaluaciones clínicas y tomar decisiones de tratamiento.

Por todo ello, se recomienda:

Revisión continua de las operaciones y decisiones de la IA. Retroalimentación constante para mejorar y ajustar los modelos de IA

Capacidad de intervención activa de los profesionales de la salud (fisio y dolor) cuando sea necesario. El diseño los sistemas de IA de manera que puedan ser interrumpidos o desactivados rápidamente por los profesionales sanitarios si se observa un comportamiento inusual o potencialmente perjudicial.

Se debe garantizar la transparencia en la toma de decisiones de los sistemas de IA, permitiendo que los algoritmos expliquen sus decisiones y facilitando la intervención humana en cualquier momento.

Es fundamental proporcionar formación y capacitación adecuada a los profesionales sanitarios.

Se deben realizar pruebas y auditorías regulares de los sistemas de IA utilizados en fisioterapia y tratamiento del dolor para asegurar que cumplan con los estándares de seguridad y estén bajo control humano.

En cuarto lugar, debe promoverse la cooperación entre desarrolladores de IA, profesionales de la salud, pacientes y reguladores, desarrollar directrices y estándares específicos para IA en salud y asegurar la supervisión integral de toda la IA relacionada con la salud.

A modo de conclusión señalo que es fundamental comunicar de manera clara las capacidades y limitaciones de la IA en fisioterapia para evitar generar falsas esperanzas. La IA ha demostrado beneficios en áreas como la detección de movimientos incorrectos y la evaluación de movilidad, siendo a veces tan precisa como los fisioterapeutas. Sin embargo, es importante enfatizar que la IA actúa como una herramienta complementaria, no como un sustituto, y que siempre se requiere la supervisión humana. También es esencial reconocer los desafíos actuales, como la protección de datos y la necesidad de validación clínica rigurosa. Aunque la IA tiene un gran potencial futuro, es crucial no exagerar sus capacidades. Cualquier sistema de IA debe permitir la personalización y retroalimentación de los profesionales, asegurando que el juicio clínico humano siga siendo central en el proceso terapéutico.

Otras cuestiones

Otras cuestiones que se pueden tienen que ver con:

Crear espacios en línea donde los pacientes, fisioterapeutas y desarrolladores puedan discutir abiertamente sobre el funcionamiento, beneficios y preocupaciones relacionados con los sistemas de IA en fisioterapia.

Cuando se utilizan modelos predictivos de IA para pronosticar resultados de tratamiento, proporcionar explicaciones claras sobre los factores que influyen en estas predicciones y sus limitaciones.

Ofrecer a los pacientes la posibilidad de optar por no utilizar ciertas funciones de IA o de elegir entre diferentes niveles de asistencia automatizada en sus programas de rehabilitación.

Además, es esencial que en la implementación de sistemas IA en salud se cumpla el RGPD y la LOPDGDD, realizando la anonimización de datos para proteger la identidad de los pacientes. Reforzar la ciberseguridad mediante cortafuegos y cifrado es esencial, así como establecer controles de acceso estrictos para limitar la información sensible solo al personal autorizado.

Se deben realizar evaluaciones de seguridad y calidad antes de utilizar sistemas de IA, garantizando la transparencia en los procesos de toma de decisiones. Es importante establecer mecanismos de auditoría y responsabilidad para rastrear el uso de IA, así como proporcionar educación y formación a profesionales y pacientes sobre la privacidad de datos. Estas acciones ayudan a proteger la información mientras se aprovechan los beneficios de la IA en el sector sanitario.

Por tanto, resultará imprescindible permitir que organizaciones independientes auditen los sistemas de IA utilizados en fisioterapia digital para verificar su precisión, equidad y seguridad. Los resultados de estas auditorías deberían ser accesibles al público.

La creación de una Carta de Derechos para establecer estándares en el uso de la IA en el sector sanitario. En dicho código (voluntario, a priori) podría contemplarse cuestiones como la finalidad de los datos, el consentimiento, la seguridad etc. Enfocados para los usuarios y pacientes donde se tengan en cuenta los principios éticos como base para la legislación futura, incluyendo respeto a la dignidad, autonomía, seguridad humana, inclusión social, democracia, equidad, cooperación e igualdad.

Por otro lado, será bastante probable que el Reglamento europeo de IA resulte en estándares vagos y requieran de la interpretación de los proveedores de IA. Somos conscientes de que las Organizaciones de Normalización (ej. Comité Europeo de Normalización) o la Asociación Española de Normalización tendrán limitaciones para incluir a todas las partes interesadas y relevantes y dar respuesta a las especificaciones técnicas, protocolos y terminología en sus respectivos campos. En cualquier caso, organizaciones como CEN, CENELEC y ETSI tienen un rol clave en el desarrollo de estándares técnicos en Europa. Estas entidades deberán adaptar sus procesos para incorporar consideraciones éticas en la elaboración de normas relacionadas con IA. Actualmente, muchas normas son de aplicación voluntaria, aunque algunas se vuelven obligatorias por referencia legislativa.

Se recomienda que la Oficina de IA y el Comité Europeo de Inteligencia Artificial lideren estas iniciativas mediante el desarrollo de directrices detalladas, la creación de códigos de conducta específicos para el sector salud y el establecimiento de estándares armonizados.