¿Está claro que es una orientación y no un diagnóstico o tratamiento?

El regulador europeo de IA efectivamente enfatiza que los sistemas de IA en el ámbito de la salud, incluida la fisioterapia, deben considerarse como herramientas de orientación y apoyo, no como sustitutos del diagnóstico o tratamiento realizados por profesionales de la salud. La IA en fisioterapia debe verse como un complemento al juicio clínico de los profesionales, no como un reemplazo. Por ejemplo, las aplicaciones que analizan movimientos o sugieren ejercicios deben ser supervisadas y validadas por fisioterapeutas. Es crucial comunicar claramente a los pacientes que las recomendaciones o análisis proporcionados por sistemas de IA son orientativos y no constituyen un diagnóstico o plan de tratamiento definitivo y debe mantenerse siempre la supervisión de un profesional de la salud en la interpretación y aplicación de las sugerencias generadas por IA.

La Ley de IA de la UE representa un avance significativo en la regulación de la inteligencia artificial en el sector sanitario pero requiere ajustes específicos para abordar adecuadamente los desafíos únicos de este campo. Para mejorar la implementación de la ley en el ámbito de la salud, se recomienda la clarificación de conceptos y exenciones (ej. en investigación), donde se defina con precisión los términos clave relacionados con la IA en salud.

La toma de decisiones basada en IA debe ser comprensible, transparente y evaluable, asegurando la confiabilidad para todas las partes implicadas.

Una ley genérica va a crear problemas en situaciones específicas. Problemas que se tendrán que resolver a través de la legislación especial sobre productos sanitarios y los instrumentos de soft law, incluyendo instrucciones de los reguladores, que permitan establecer dónde exactamente queda el equilibrio de intereses de las distintas partes afectadas.

Una regulación eficaz de la IA no debería sofocar la innovación, sino más bien guiarla en una dirección que mejore el bienestar social y mitigue los riesgos.

El futuro de la IA no debe dejarse solo en manos de las fuerzas del mercado o del determinismo tecnológico. Requiere un esfuerzo concertado de todas las partes interesadas (gobiernos, corporaciones, sociedad civil y comunidad científica) para crear un entorno en el que los avances tecnológicos estén alineados con amplios beneficios sociales. Unas políticas públicas sólidas y un análisis social informado (“nos jugamos mucho”).

La confianza en la IA del sector público (si hablamos de salud pública) es “específica”, lo que cuestiona la eficacia de una ley reguladora horizontal como la Ley de IA. Debe trabajarse el “enfoque ético desde el diseño” para la toma de decisiones éticas en cada país. Las asimetrías de conocimiento entre expertos en IA y ciudadanos comunes plantean desafíos importantes. Nos jugamos mucho.