En este mundo tan digitalizado y automatizado donde nos encontramos, casi todo se basa en algoritmos, diseñados por ingenieros o similares, aunque, afortunadamente, y no sé por cuanto tiempo, sigue también considerándose la opinión de los científicos puros, cada vez más seleccionados, eso sí.

Pero lo cierto es que los algoritmos fallan, por mucho que se les entrene adecuadamente, y las opiniones de los científicos también (para eso provienen de seres humanos con sus limitaciones).

Luego, nada es todavía perfecto pues la consideración anterior nos lleva a que, todavía, los robots existentes no son infalibles, aunque ya los vayamos teniendo introducidos en nuestra vida cotidiana profesional. Y, si no los tienes, se te dirá (y con razón), que estás siendo superado por los demás.

Y es cuando me surge la pregunta, ¿en qué manos está ya la cirugía actual, robotizada, y en cuáles estaremos después del anunciado año 2045 en que se producirá el Apocalipsis de la derrota del ser humano, según los vaticinios de los gurús expertos?

Porque, a fin de cuentas, la cirugía es, quizás, la parte más sensible e inmediata en el pensamiento de la población donde ya se aplica la inteligencia artificial (IA), mucho más que en la I+D+i o en la predicción de enfermedades o secuelas.

Algoritmos por aquí, algoritmos por allí. La verdad es que hemos pasado de una increíble falta de interés por los datos a una pasión indiscriminada, y arrasamos con cualquier número que nos aparece en el camino, tratando de destriparlo para sacarle el máximo provecho, esté o no estructurado.

Y yo, por supuesto, estoy de acuerdo, como ciudadano activo del siglo XXI y porque todo ello debe conducir a nuestro beneficio como pacientes y, como cualquiera, soy el primer interesado.

Lo único que quiero llamar la atención en este artículo es sobre los riesgos que conlleva su mal uso, su malpraxis. Que existen y pueden seguir creciendo con la invasión robótica provocada por el uso de IA que nos va invadiendo.

He aprendido que los algoritmos dedicados al diagnóstico de una enfermedad se entrenan, como ya dije en la introducción, a partir de contar con muchísimos datos, y luego se comprueban una y otra vez con otros conjuntos de datos de prueba. Se obtiene, así, un “algoritmo entrenado”.

No obstante, no son perfectos y pueden equivocarse, tanto al identificar una enfermedad donde no la hay (falso positivo) como al ignorar un caso real (falso negativo).

Por supuesto, una vez diseñado, desarrollado y entrenado el algoritmo, lo usan personas. Normalmente, profesionales sanitarios. Estos deben tener formación y entender correctamente los usos y las limitaciones de dichas herramientas a la hora de ponerlas en práctica. Y ello puede no suceder.

“Hasta ahora el peligro más documentado de los riesgos de la IA en salud son los sesgos que perpetúan las desigualdades”

El mal uso de las herramientas de IA lo es mucho más cuando el resultado de los algoritmos se pone directamente en manos de los pacientes. Todavía mucho peor que en el caso anterior. Ellos pueden malinterpretar los resultados si no tienen la adecuada información sobre los mismos, que es lo normal que suceda.

Pero hasta ahora el peligro más documentado de los riesgos de la IA en salud, son los sesgos que perpetúan las desigualdades.

Los algoritmos se entrenan con datos, pero esos datos no son “puros”. Por ejemplo, es posible que los que se hayan recogido de una determinada enfermedad de todos los pacientes que han pasado por un hospital, durante un largo periodo de tiempo, sean más en volumen y fiables para un determinado colectivo (el de hombres blancos, casados, de mediana edad, con hijos, e ingresos medios-altos), dejando a un lado o con poco peso el resto de los grupos de población existentes.

Esa “desigualdad” en los datos termina trasladándose al algoritmo, que aprenderá a diagnosticar mejor a unos colectivos que a otros. Es fruto de un mal entrenamiento o de haberlo hecho con datos no totalmente adecuados. Y, quizás, ya dure para siempre.

También otro problema sorprendente, y aún indescifrable, de los algoritmos en medicina, es que pueden ver cosas que nosotros no vemos. Por ejemplo, se ha descubierto que un algoritmo puede detectar el sexo de una persona a partir de una retinografía. Es algo que un oftalmólogo, por muy experto que sea, es incapaz de hacer, porque no es posible explicar qué encuentra el algoritmo en la imagen que lo lleva a dicha conclusión. Es un signo de, como diría un político de los que tenemos ahora, de claro “sorpasso” de la IA sobre los humanos.

En ese caso, debe ser apasionante “entrar” en el interior del algoritmo, como si fuera una película de ficción, aunque solo se encuentre un cúmulo sucesivo de operaciones algebraicas con matrices numéricas, en las que el “entrenamiento” ha modelado una serie de parámetros de las operaciones.

Pero ninguno de esos parámetros da ninguna pista de algo que podamos entender en términos humanos. Ocurre como cuando observamos la comunicación entre las neuronas de nuestro cerebro: sabemos lo que están haciendo y lo que acaban deduciendo, pero nada de lo que vemos nos permite explicar el mecanismo que se sigue.

Otro aspecto a tener en cuenta es la privacidad y seguridad de los datos.

Incluso con una regulación profundamente garantista como la que nos ofrece el Reglamento General de Protección de Datos de la Unión Europea, la privacidad y seguridad de nuestros datos de salud es una preocupación constante de instituciones y ciudadanos. La IA añade más preocupación pues empresas o particulares pueden, de forma maliciosa, deducir información valiosa sobre nuestra salud para luego comercializarla o usarla de forma indebida.

Y, si hay fallos, ¿cuál es la responsabilidad de un algoritmo? Y, ¿quién se hace cargo de ella: el desarrollador, quien proporcionó los datos, el que los usó? ¿Qué pasa cuando hay un daño a un individuo o a un colectivo y se busca al culpable? Hoy en día la regulación en este tema, y en casi todos, va muy por detrás de la tecnología y no es capaz de responder a estas preguntas, que están presentes desde el mismo momento en que se desarrollan los algoritmos y se ponen a trabajar.

Bien, hasta aquí hemos visto cómo los algoritmos tienen también fallos, causan problemas y apenas poseen una relativa responsabilidad de ellos, pese a poder haber disfrutado de los mejores entrenadores.

Con todo esto no trato de desanimar, ni influir negativamente, en el afortunado crecimiento y mejora que está proporcionando la IA, con su desembarque de datos y posterior macroanálisis Pese a los fallos, sus posibilidades de crecimiento y mejora son tan espectaculares que merece la pena profundizar y trabajar cuanto más mejor con ellos, sin ninguna duda.

Y superar esos obstáculos existentes a la aplicación de los algoritmos en el mundo real de la práctica clínica, dado también que muchas de las herramientas de inteligencia artificial se han desarrollado recientemente, como, por ejemplo y casi sirviendo de conclusión:

  • La limitada calidad, estructura e interoperabilidad de los datos en historias clínicas electrónicas heterogéneas.
  • Las posibles alteraciones en la relación médico-paciente actual debido a la introducción de herramientas médicas de inteligencia artificial.
  • Los problemas en el acceso a los datos del paciente.
  • La falta de integración e interoperabilidad clínica y técnica de las herramientas de inteligencia artificial con las herramientas clínicas existentes.
  • Los flujos de trabajo y sistemas electrónicos de salud ya obsoletos.

Para concluir, y dejar un sabor positivo a mis comentarios anteriores, hay que estar seguros de que la agregación de los datos de salud procedentes de las historias clínicas electrónicas a los algoritmos puede permitir importantes avances. Y esto está cada vez más cerca de conseguirse. En buenas condiciones, a nivel global.

Y, además, siempre tras los riesgos de la inteligencia artificial en salud, hay que detallar los reglamentos existentes de aplicación al desarrollo de algoritmos de IA, así como los mecanismos de autocomprobación que sus creadores pueden ya y podrán poner en marcha con desarrollos futuros.

Tanto científicos como en el cuidado inmediato de los pacientes. Si, además, somos capaces de incorporar los datos procedentes de nuestras wearables, las posibilidades se magnifican.