Decíamos en nuestra columna anterior que en el derecho de acceso a la información se intuye una gran dificultad y las cuestiones ética, morales y jurídicas que conlleva el uso de la IA tan necesaria. Sin embargo, en el ámbito sanitario, suponen un reto importante.
Comentamos que la transparencia algorítmica es importante en el campo de la sanidad, donde la inteligencia artificial y los algoritmos desempeñan un papel cada vez más significativo en la toma de decisiones clínicas, la gestión de datos de pacientes y la investigación médica.
Debemos señalar cuestiones esenciales, en relación a los algoritmos, que son el eje de la IA en el sector sanitario.
Así podemos enumerar que la transparencia algorítmica es relevante en la sanidad en los siguientes aspectos
Diagnóstico médico: Los algoritmos de diagnóstico médico, como los utilizados en la interpretación de imágenes médicas (como radiografías o resonancias magnéticas), deben ser transparentes en su funcionamiento para que los médicos y pacientes puedan entender cómo se llega a un diagnóstico. La explicabilidad es esencial para garantizar la confianza en estos sistemas y para permitir la revisión por parte de expertos.
Predicción de enfermedades: Los algoritmos que predicen el riesgo de enfermedades o eventos médicos futuros, como ataques cardíacos o diabetes, deben ser transparentes en cuanto a los datos y las variables que utilizan para hacer estas predicciones. La transparencia es fundamental para que los pacientes comprendan las recomendaciones y puedan tomar decisiones informadas sobre su salud.
Administración de datos de pacientes: Los sistemas de gestión de registros médicos electrónicos y los algoritmos utilizados para analizar y organizar datos de pacientes deben ser transparentes en cuanto a cómo manejan la privacidad y la seguridad de los datos. Esto es esencial para cumplir con las regulaciones de protección de datos y garantizar la confidencialidad de la información médica.
En el caso de los datos podemos señalar que:
Investigación médica: En la investigación médica, la transparencia algorítmica es importante para garantizar que los métodos utilizados para el análisis de datos sean comprensibles y puedan ser verificados por otros científicos. Esto contribuye a la reproducibilidad de los resultados y a la confiabilidad de los estudios.
Ética en la toma de decisiones: Los algoritmos utilizados en la asignación de recursos en el sistema de salud, como la asignación de camas en unidades de cuidados intensivos, deben ser transparentes en sus criterios y procesos para garantizar que las decisiones sean justas y éticas.
Como cuestión a resaltar respecto a los sistemas de IA, estos amplifican riesgos y conllevan nuevas consideraciones éticas para los equipos tecnológicos. Es clave establecer mecanismos que protejan la integridad del dato mitigando riesgos tales como:
Riesgos de reproducción de patrones erróneos o poco éticos por datos de “mala calidad”.
Riesgos de re-identificación de los individuos.
Por otro lado, se debe asegurar una adecuada gestión de los datos, que abarque la calidad e integridad de los datos utilizados, su pertinencia en contraste con el ámbito en el que se desplegarán los sistemas de IA, sus protocolos de acceso y la capacidad de procesar datos sin vulnerar la privacidad de las personas. La mejor opción para evitar estas circunstancias y que la privacidad, como derecho, no se vea amenazada, por los sistemas de Inteligencia Artificial y que ha de garantizarse a lo largo de todo el proceso de gestión del dato implican la transparencia.
En resumen, la transparencia algorítmica en el campo de la sanidad es esencial para garantizar la seguridad, la eficacia y la ética en la utilización de la IA y los algoritmos en la atención médica y la investigación médica. Permite a médicos, pacientes y profesionales de la salud comprender y confiar en las decisiones y recomendaciones generadas por estos sistemas.
