La inteligencia artificial (IA) está transformando el ámbito de la salud de maneras que, hasta hace poco, parecían ciencia ficción. Sin embargo, este avance también trae consigo grandes responsabilidades. El objetivo del informe que se ha presentado este septiembre 2024 “Final Report – Governing AI for Humanity” pretende que su desarrollo sea responsable y sus beneficios lleguen a todos por igual.
¿A qué nos referimos cuando hablamos de «gobernanza de la IA»?
Cuando hablamos de gobernanza de la IA, nos referimos a la creación de un marco internacional que oriente el desarrollo y la aplicación de la IA de manera segura y beneficiosa. Este marco debe tener en cuenta aspectos clave como:
Mitigación de riesgos: La IA, si no se gestiona adecuadamente, puede generar discriminación, violaciones de derechos humanos o concentrar el poder en unos pocos. Un sistema de gobernanza debe establecer mecanismos para prevenir estos riesgos.
Cooperación internacional: la IA no conoce fronteras, y por ello es fundamental que los países trabajen juntos para armonizar regulaciones y fomentar la colaboración en investigación y desarrollo.
Equidad e inclusión: un enfoque inclusivo asegura que los beneficios de la IA se distribuyan equitativamente, evitando que se profundicen las brechas sociales, económicas o digitales.
Protección de datos: se necesita un equilibrio entre el uso de grandes volúmenes de datos para entrenar sistemas de IA y la protección de la privacidad de las personas.
Acceso a recursos: democratizar el acceso a recursos computacionales y a formación en IA es esencial, especialmente para países en desarrollo. Un fondo global de IA podría ayudar a garantizar este acceso.
Rápido avance de la tecnología de IA
El desarrollo de la inteligencia artificial está avanzando a pasos agigantados. Esto genera preguntas importantes: ¿seremos capaces de controlar la IA si supera nuestra capacidad intelectual y de procesamiento?
El informe pone especial interés en establecer una gobernanza global robusta mientras la IA sigue en desarrollo, con el fin de mitigar posibles riesgos futuros y asegurar que su evolución sea beneficiosa para la humanidad.
Algunos puntos clave que destacan en relación con esta cuestión son:
Énfasis en la gobernanza: el informe subraya la importancia de establecer desde el principio mecanismos de control y marcos éticos que guíen el desarrollo de la IA. Esto incluye la cooperación internacional para garantizar que los sistemas de IA sigan alineados con principios éticos universales, evitando así que su evolución escape de nuestras manos.
Alineación de valores: la IA debe estar alineada con los valores humanos y los derechos fundamentales. En especial, porque si desde sus primeras etapas se integran estos principios, incluso si llegara a superar nuestra capacidad intelectual, seguiría actuando dentro de los límites establecidos por esos valores.
Desarrollo responsable: transparencia, rendición de cuentas e inclusividad son clave para garantizar que, aunque la IA avance rápidamente, mantengamos un control sobre su rumbo y las decisiones que toma.
Necesidad de una gobernanza global
Otro tema crucial que me planteo a menudo; ¿podrán las naciones dejar de lado sus intereses individuales y unirse para crear una gobernanza global efectiva para la IA?
La cooperación internacional es fundamental para maximizar el potencial de la IA y minimizar sus riesgos. Te resumo algunos de sus argumentos a favor y en contra.
Argumentos a favor de la cooperación internacional:
Beneficios compartidos: la IA tiene un enorme potencial para mejorar sectores clave como la salud, la educación y el medio ambiente. Estos avances pueden contribuir a alcanzar los Objetivos de Desarrollo Sostenible (ODS), uniendo a las naciones en torno a metas comunes que favorecen el bienestar global.
Naturaleza global de la IA: la IA no puede desarrollarse de forma aislada. Los datos y recursos que impulsan su avance están distribuidos por todo el mundo, lo que hace esencial la colaboración internacional para aprovechar al máximo estos recursos.
Regulación armonizada: para enfrentar problemas como el sesgo algorítmico o la concentración de poder en pocas manos, es necesario crear un marco global que armonice las regulaciones y promueva la cooperación. Podríamos decir que la información fluya por el mundo de una manera armónica.
Riesgos compartidos: los riesgos que presenta la IA, como su mal uso con fines dañinos, no tienen fronteras. Abordar estos riesgos requiere un esfuerzo coordinado y concertado entre todas las naciones.
Desafíos para la cooperación:
Intereses nacionales: cada país puede priorizar sus propios intereses económicos o de seguridad, lo que puede dificultar la colaboración en un terreno tan estratégico como la IA.
Diferencias culturales y de valores: las visiones distintas sobre temas como la privacidad o la ética pueden ser un obstáculo para crear un marco global único.
Falta de confianza: la desconfianza entre naciones, especialmente en el actual contexto geopolítico, puede dificultar la cooperación efectiva en torno a la gobernanza de la IA.
Impacto de la IA en el desarrollo sostenible
Hablar de desarrollo sostenible ahora que tenemos esta tecnología a nuestro alcance, es importante, pero ¿seremos capaces de aprovechar el potencial de la IA para el bien común, como la lucha contra pandemias o la crisis climática, sin dejar de lado a los más vulnerables?
El informe deja clara su respuesta, y es que sí, pero no sin afrontar importantes desafíos. La inteligencia artificial tiene un enorme potencial para contribuir al bien común. Por ejemplo, la IA puede utilizarse para predecir y gestionar eventos globales como pandemias, inundaciones, incendios forestales o inseguridad alimentaria. Estas aplicaciones podrían ser cruciales para avanzar en el cumplimiento de los Objetivos de Desarrollo Sostenible (ODS), ayudando a mitigar algunos de los problemas más urgentes de nuestro tiempo.
Sin embargo, no todo es tan simple. Existe una preocupante brecha de acceso a la IA que podría dejar atrás a los más vulnerables. Las comunidades más desfavorecidas, especialmente en países en desarrollo, pueden no tener acceso a las tecnologías necesarias para beneficiarse de la IA. Además, la falta de diversidad lingüística y cultural en los datos utilizados para entrenar estos sistemas puede perpetuar sesgos, lo que excluiría a comunidades enteras de los beneficios que la IA puede ofrecer. Para garantizar que la IA beneficie a todos, incluidas las poblaciones más vulnerables, es fundamental que exista una gobernanza global que promueva la inclusión y la equidad.
Uno de los pilares de esta gobernanza debería ser la creación de un marco mundial de datos que asegure la disponibilidad, interoperabilidad y uso responsable de los datos de entrenamiento de IA. Esto implicaría abordar la falta de datos representativos en algunas partes del mundo, garantizando que las bases de datos sean diversas y reflejen la pluralidad de culturas, lenguas y realidades a nivel global. Una vez más, creo que el papel puede soportar cualquier idea y buenas intenciones (ojalá me equivoque) pero veo realmente complejo este punto donde las dinámicas de poder acechan al entorno de la IA.
Contínuo con el informe «Gobernanza de la IA para la Humanidad» donde se sugiere la creación de una red de desarrollo de capacidades en IA y un fondo mundial que financie iniciativas orientadas a utilizar la IA en pro del desarrollo sostenible. Estas medidas no solo ayudarían a reducir la brecha digital, sino que también democratizarían el acceso a la IA, proporcionando herramientas y oportunidades a los países y comunidades que actualmente están en desventaja.
Además, se subraya la necesidad de un enfoque integral, en el que gobiernos, sector privado, sociedad civil y academia trabajen juntos para garantizar que la IA se desarrolle y se utilice de manera ética y responsable. Este esfuerzo coordinado es esencial para asegurar que la IA no solo beneficie a unos pocos, sino que sea una herramienta inclusiva que impulse el bienestar global.
Gobernanza de la IA para profesionales de la salud
El informe original analiza las oportunidades y los riesgos de la inteligencia artificial (IA), abogando por una gobernanza global para asegurar un desarrollo responsable y beneficioso para todos. En términos de la Salud, también expone algunas conclusiones que son necesarias de conocer.
Beneficios de la IA en salud y la brecha existente
La IA tiene un enorme potencial para revolucionar la atención sanitaria, impulsando el progreso en áreas como el diagnóstico, el desarrollo de fármacos, la atención personalizada y la gestión de enfermedades. Sin embargo, existe una brecha en el acceso a la IA, que margina a países y comunidades con falta de datos y recursos, lo que podría exacerbar las desigualdades existentes en salud. ¿Podríamos decir que una herramienta que viene ayudarnos podría potenciar todavía más las desigualdades?
¿Por qué es importante una gobernanza global de la IA en salud?
El informe destaca la necesidad de una gobernanza global para mitigar los riesgos de la IA en salud y para conocer los puntos clave para los profesionales de la salud, tales como:
Sesgos en los algoritmos: que pueden conducir a diagnósticos y tratamientos inexactos o discriminatorios, especialmente para grupos minoritarios o marginados.
Violación de la privacidad y seguridad de los datos de salud: la proliferación de datos de salud utilizados para entrenar sistemas de IA plantea preocupaciones sobre la privacidad y seguridad, especialmente dada la sensibilidad de esta información.
Concentración del poder y la innovación: un pequeño número de empresas o países podría dominar el desarrollo y la aplicación de la IA en salud, limitando la innovación y exacerbando las desigualdades.
Puntos clave para profesionales de la salud
Compromiso con la ética: Los profesionales de la salud deben involucrarse activamente en la configuración de las políticas y regulaciones relacionadas con la IA en salud, garantizando que su desarrollo y uso se alineen con los principios éticos y los valores de la profesión.
Formación y conocimiento: Es fundamental mantenerse actualizado sobre los avances y las implicaciones éticas de la IA en salud. Esto incluye comprender los sesgos potenciales, las limitaciones y las mejores prácticas para el uso responsable de la IA en la práctica clínica.
Promoción de la equidad: Abogar por un acceso equitativo a las tecnologías de IA en salud, trabajando para reducir la brecha digital y garantizar que los beneficios de la IA lleguen a todas las comunidades.
El informe «Gobernanza de la IA para la Humanidad» propone una serie de recomendaciones clave dirigidas a garantizar que la inteligencia artificial (IA) se desarrolle y aplique de manera responsable en el sector de la salud.
Estas recomendaciones abogan por la creación de estructuras y mecanismos que permitan un seguimiento continuo de la IA, así como la implementación de marcos de gobernanza que aseguren su uso ético y equitativo. Desde el establecimiento de un grupo internacional de expertos hasta la creación de un órgano intergubernamental en el contexto de la ONU, estas iniciativas buscan fortalecer las capacidades nacionales, promover la inclusión y garantizar que la tecnología beneficie a todas las comunidades, especialmente a las más vulnerables.
¿Qué opinan los profesionales sanitarios de todo esto?
Recientemente, tuve el honor de organizar un encuentro digital como director del máster en salud digital (e-health) de la Universidad Europea, donde discutimos estos temas relacionados con la transformación digital de la asistencia sanitaria con representantes de alto nivel de diversas organizaciones sanitarias.
Durante el debate, Josep M. Pomar Reynés, presidente del Patronato de la Fundación Signo, enfatizó la necesidad de «perder el miedo al futuro» y de «confiar en el proceso de transformación digital», que es esencial para afrontar los grandes desafíos que enfrentamos en el sistema sanitario.
Guadalupe Fontán, coordinadora del Instituto de Investigación Enfermera del Consejo General de Enfermería, resaltó que «la transformación digital es esencial para poder transformar el modelo de atención», destacando la importancia de un buen diseño y planificación.
Rosalía Gozalo, farmacéutica comunitaria, compartió la visión de que buscamos «una mejor calidad asistencial, mayor eficiencia y mejor comunicación», aprovechando los avances tecnológicos de manera ética.
Julio Mayol, catedrático de Cirugía en la UCM, expresó que «la formación es esencial para poder afrontar» los desafíos actuales y que, al igual que Walt Disney decía: «Si podemos soñarlo, podemos hacerlo.»
Por último, Tomás Cobo Castro, presidente del Consejo General de Médicos, enfatizó que «la información y formación modernas deben permitir adquirir todas las herramientas de transformación digital», reforzando la relación médico-paciente y la parte humana de la medicina, que es clave.
La IA tiene el potencial de transformar la atención sanitaria que conocemos actualmente, pero su desarrollo y aplicación responsable requieren una gobernanza global sólida. Los profesionales de la salud tienen un papel fundamental que desempeñar para garantizar que la IA se utilice de manera ética, equitativa y beneficiosa para todos los pacientes. Para ello, necesitamos una formación clave que nos ayude a ofrecer la mejor tecnología al servicio de los pacientes.
La gobernanza bien diseñada puede convertirse en un catalizador para un futuro más inclusivo y equitativo. Si actuamos con responsabilidad, involucrando a profesionales, gobiernos, pacientes y ciudadanos, la IA tiene el potencial de transformar nuestra sociedad y mejorar la atención sanitaria. Ojalá que todo esto no solo sea un sueño y que estemos ante una oportunidad única de dirigir esta tecnología hacia un futuro más saludable y justo para todos.
