Un cartógrafo interesado en la expansión de la inteligencia artificial (IA) diría que, para esta tecnología, la idea de terra ignota está desapareciendo del mapamundi de la medicina. Y es que, en el universo médico, apenas quedan territorios sin explorar por este fenómeno de nuestros días. Ya se tenga como cometido prevenir o diagnosticar, pronosticar o tratar, desde la medicina general a la forense, de la nutrición a la psiquiatría, desde los hospitales a las facultades, los impulsores de la IA hace años que levantaron sus manos para anunciar su advenimiento.
Consecuentemente, El Médico interactivo publica de forma habitual artículos, informes y noticias sobre IA. Desde que se tiene registro (año 2011) hasta la actualidad (2022), esta prestigiosa revista ha publicado algo más de trescientas piezas —concretamente, salvo error por nuestra parte, 335 al 11 de diciembre de 2022— en las que, en mayor o menor grado, la IA es objeto de atención. La frecuencia con que aparecen es creciente. Y por eso, si desde 2011 hasta hoy se hubieran publicado con la misma regularidad que durante los últimos meses de 2022, estaríamos hablando de más de mil quinientos trabajos, es decir, de cuatro veces y media más.
Con motivo de la publicación de nuestro último libro sobre IA [1], El Médico Interactivo nos propuso escribir una tribuna, invitación que hemos aceptado con gratitud y el deseo de corresponder acertadamente. En lo que sigue, ofrecemos la idea que, desde nuestra perspectiva, hemos podido hacernos de cómo la profesión médica interpreta la inteligencia artificial. A ello le dedicamos los dos primeros apartados de carácter descriptivo, para después ofrecer, a modo de colofón, un par de propuestas sobre cómo podrían desarrollarse las relaciones entre la institución médica y la inteligencia artificial, en beneficio de ambas y, por tanto, de la sociedad.
[1] Felipe Gómez-Pallete y Paz de Torres, Que los árboles no te impidan ver el bosque. Caminos de la inteligencia artificial. Editorial Círculo Rojo, 2022. Disponible en https://bit.ly/3DFTzw8 [2] De los 335 artículos en que la IA es mencionada, analizamos el contenido de medio centenar. Esta muestra fue elegida de la siguiente forma: Un tercio de los artículos más antiguos; un tercio de los más recientes y un último tercio de los publicados en el ecuador del período 2011 – 2022. [3] Martin Heidegger, La pregunta por la técnica. Herder, 2021. Disponible en https://amzn.to/3UHZt5j [4] Mónica M. Bernardo, “Presente y futuro de la IA en salud”. El Médico Interactivo, 5 de enero de 2022. Disponible en https://bit.ly/3hiGXCO [5] Entrevista a Purificación López-García, bióloga. XL Semanal, 18 de noviembre de 2022. Disponible en https://bit.ly/3uIAhkC [6] Margaret A. Boden, Inteligencia artificial. Turner, 2022, 155. Disponible en https://bit.ly/3FJBq1E [7] Paz de Torres, Cómo fortalecer la credibilidad de las organizaciones públicas. El ejemplo de la ONT y los modelos de gestión de integridad. Título Experto en Integridad Corporativa, Transparencia y Buen Gobierno. Transparency International España. 30 de noviembre de 2018. Disponible en https://bit.ly/3PauFsI
I. ¿Qué es esto de la IA para la profesión médica?
Una milenaria y conocida fábula nos habla de un grupo de personas que, en la más absoluta oscuridad, se encontraban situadas en torno a un elefante. Quien palpaba una pata sostenía que “eso” era como un pilar; el que acariciaba una oreja hablaba de un abanico y quien rozaba la cola creía haber tocado una soga. La trompa, el vientre y los colmillos sugerían otras tantas imágenes. Cada cual hacía de su parte un todo diferente. ¿Qué es la inteligencia artificial? Como recogemos en el libro de referencia, la IA es un motivo de inquietud para los órganos reguladores y de curiosidad para el científico; de reflexión para el filósofo, de practicidad para el tecnólogo y de impulso y oportunidad para el innovador; una ocasión para perfilar disciplinas y crear departamentos entre el personal académico y de interés económico para los fondos de inversión. Y, sin duda, la IA es un fenómeno que causa desconcierto en el ciudadano que no alcanza a conjugar esta miríada de interpretaciones parciales. Y para la profesión médica, ¿qué es la IA? A tenor de los artículos analizados [2], los profesionales de la medicina permanecen fieles a esta máxima: «Sigue siendo correcto afirmar que la técnica moderna es un medio para un fin» [3]. Así, cuando un profesional de la medicina habla de IA se refiere a cómo estas tecnologías le ayudan a mejorar en el ejercicio de sus responsabilidades. Los medios más citados en el cuerpo de los textos analizados son big data, robótica, dispositivos físicos portátiles —wearables— y de procesamiento de lenguaje natural, realidad virtual, analizadores de imágenes y diferentes modelos de aprendizaje automático, entre los que destaca el aprendizaje profundo, por citar algunas de las herramientas IA mencionadas. En definitiva, estamos hablando de distintas formas de hardware, software, datos y robótica, que son, en suma, los cuatro motores tecnológicos de la así llamada inteligencia artificial. Y en cuanto a los fines que la profesión médica afronta con la ayuda de la IA, son de todo tipo, así de índole médica como, en menor medida, de gestión. Bien se trate de optimizar la productividad del sector sanitario o la de un hospital concreto, o bien se tenga como meta la mejora de la calidad de vida de los pacientes o, muy en particular, el diagnóstico de enfermedades; tanto sean el propio doctor y sus cotidianas —y, a menudo, urgentes—decisiones, como la calidad asistencial los asuntos cuya mejora permanente se busca, en cualquier caso, decimos, la IA cumple un papel cada día más relevante. Tales son los términos empleados por los profesionales de la medicina cuando hablan de la IA, de sus medios y sus fines. Cabe destacar que, por su forma de expresarse, se muestran ajenos al sensacionalismo presente en la prensa generalista, así como lejanos del tono triunfalista, tan querido por los profetas de la inteligencia artificial fuerte y del transhumanismo, si bien, como señalaremos más adelante, marcadamente optimistas. En el terreno narrativo, la profusión de titulares y promesas espectaculares —las más de las veces, infundadas— se debe, en buena medida, a que la propia expresión —inteligencia artificial— da pie a ello. Pues si desconocemos cómo emergió la inteligencia a partir de la materia (lo que constituye el principal misterio del universo); si no sabemos lo que es la inteligencia y si, en consecuencia, la comunidad científica aún no se ha puesto de acuerdo en cómo definirla, ¿qué sentido pueden tener los intentos de reproducir artificialmente tal cosa?, ¿cuál es el significado de una expresión que, en cierto modo, contiene una contradicción en términos? Por eso, los médicos se ciñen a considerar la IA como “un conjunto de tecnologías o sistemas computacionales artificiales capaces de un comportamiento inteligente” [4], una idea tangible y muy pegada al terreno. De este modo, la medicina se alía con la IA al tiempo que, a estos efectos, evita entrar en consideraciones acerca de lo que es la inteligencia. Es una postura que, por otra parte, se encuentra muy extendida. Los biólogos, por ejemplo, evitan definir la vida, bien que la Biología es el estudio de los organismos vivos [5]. Toca ahora preguntarse en qué medida la IA así entendida contribuye o no a satisfacer las necesidades y deseos de las personas, a mejorar las condiciones de vida de la sociedad y, en definitiva, a conseguir el bienestar y la felicidad de la humanidad. Tal es, sin duda, uno de los grandes debates de nuestro tiempo, como sostenemos en el citado libro.II. Beneficios y riesgos de la IA, según los profesionales de la medicina
En nuestra opinión, para atacar esta solemne cuestión, tanto en un plano general como en el ámbito de la profesión médica en particular, es menester ponerse previamente de acuerdo en tres cuestiones pues, de otro modo, se corre el riesgo de entablar no un debate fructífero sino un diálogo de sordos. Estas tres cuestiones preliminares son:- ¿Qué se entiende por neutralidad de la tecnología? Si por tecnología se entiende el producto tecnológico listo para ser usado, diremos que la tecnología es neutra, pues depende del uso que hagamos del producto para que hablemos de beneficios o riesgos: con una cerilla enciendo una vela o prendo fuego al monte. Pero si por tecnología entendemos el proceso tecnológico que da lugar al producto, entonces, no hay neutralidad que valga, porque el proceso tecnológico está —siempre— condicionado por los intereses económicos y políticos de cada época. Las luces y sombras que proyecta la IA sobre la vida serán unas u otras en función del punto de vista adoptado, determinismo tecnológico o constructivismo social.
- ¿Cuáles son los incentivos que conducen a la innovación científica? Toda innovación científica está movida por estas cuatro fuerzas: la curiosidad del investigador, la búsqueda de soluciones a problemas de salud, la mejora de la eficiencia en toda actividad humana y el retorno de la inversión del capital empleado. Pero limitarse a estos cuatro motores es dejar fuera del debate el “para qué”, es decir, la finalidad de la innovación de que se trate. Incluir o no tan fundamental pregunta —nunca está de más formularla: ¿para qué?— marcará el curso de los debates.
- ¿La irrupción de la IA conduce a una nueva revolución industrial? En nuestra opinión, así como las tres grandes revoluciones industriales de los siglos XVIII, XIX y XX cambiaron para siempre nuestra forma de hacer (máquina de vapor, ferrocarril, electricidad, motor de combustión, ordenador e internet), la cuarta revolución (siglo XXI: inteligencia artificial) está cambiando nuestra forma de ser, es decir, aspectos esenciales de la naturaleza humana. Aceptar o rechazar que, camino del transhumanismo, los avances de la IA están cambiando la naturaleza humana significa, respectivamente, afrontar o sortear la naturaleza de los hechos en curso.
III. Dos proposiciones
En el libro que dio pie a esta tribuna abogamos por la puesta en práctica de una serie de medidas en favor del desarrollo humanista de la IA, entendiendo por tal el que sitúa al ser humano en el centro de sus preocupaciones con el fin de salvaguardar sus derechos. ¿Cómo puede la institución médica ayudar en el desarrollo humanista de la IA? Opinamos que la medicina, cuyo objeto de estudio y actuación es la salud de los seres humanos, ocupa un papel central en el escenario que frecuentan cuantos otros pensadores —filósofos, historiadores, juristas, sociólogos o economistas— vienen demostrando su preocupación por tan crucial cuestión. Nuestra forma de llamar la atención sobre ello fue ya anticipada en el título de esta tribuna: Mejor prevenir que curar. Con este añejo refrán queremos llamar la atención sobre la necesidad de articular medidas de regulación no solo al final de la cadena de valor del proceso creador de inteligencia artificial, sino también y, sobre todo, ab initio, esto es, en los laboratorios de investigación, allí donde aún es posible detenerse a pensar en el para qué de las cosas. Los científicos que dan rienda suelta a su curiosidad —y justifican la billonaria financiación, público y privada, que reciben por los beneficios que deparan los avances en IA para la salud humana y la economía— cuando, a renglón seguido, reclaman límites legales a lo ya construido, no pueden evitar, ni debieran ignorar, la menguante confianza con que la sociedad los contempla. Porque, eso de que «debemos tener mucho cuidado con lo que inventamos» [6] es una idea que no parece tener muchos adeptos. Opinamos que la institución médica podría sumarse a los intentos por subvertir este orden de cosas y acabar con la ceguera que está impidiendo responder a preguntas tales como ¿a qué esencias de la naturaleza humana no estamos dispuestos a renunciar? Y es, precisamente, la confianza en las instituciones y sus conceptos anejos, como credibilidad, reputación, integridad, transparencia o rendición de cuantas, el nexo entre esta primera propuesta y la que sigue. ¿Cómo puede la IA ayudar en la mejora permanente de una arquitectura sanitaria? Nos referimos, en el caso concreto de España, a un sistema de salud para todos los ciudadanos y que está llamado a incardinarse progresivamente en estructuras supranacionales. En este terreno, no ignoramos la siempre delicada relación que, en la praxis y en el pensamiento médicos, existe entre la esfera clínica y la esfera organizativa, pues siempre cabe preguntarse en qué medida la salud de las personas depende de la pericia médica y en qué medida, de la calidad organizativa de los centros. Se da la feliz circunstancia de que nuestro país es —en esto, sí— un referente mundial: La Organización Nacional de Trasplantes (ONT), conocida como modelo español de donaciones, se distingue, precisamente, por estos dos rasgos, a saber: por cómo aúna excelencia médica y excelencia organizativa y por el alto grado de confianza ciudadana que viene mereciendo desde hace décadas [7]. Pues bien, la historia de los trasplantes en nuestro país se inició muy pocos años después de que al matemático John McCarthy se le ocurriera acuñar una expresión que ha llegado hasta nuestros días: “inteligencia artificial”. Y desde entonces —años sesenta del siglo pasado— hasta hoy, la IA ha evolucionado vertiginosamente y la ONT —“insertada en los principios que caracterizan nuestro Sistema Nacional de Salud (SNS), tales como igualdad de acceso, equidad, financiación pública y filosofía autonómica”— permanece como líder mundial en su campo. Siendo que las numerosas muestras de incompatibilidad entre los diecisiete sistemas sanitarios que pueblan nuestro país son motivo de honda preocupación y desconfianza, echamos en falta una estrategia estatal e interautonómica orientada a la consolidación del SNS sobre la base de un uso inteligente de los avances hoy disponibles en materia de 1) capacidad de computación (hardware), 2) cantidad y complejidad de datos (big data), 3) robótica y 4) una capacidad algorítmica que, aunque más lentamente, avanza también de forma espectacular. Claro está que, si bien la tecnología es condición necesaria, en modo alguno es suficiente. Es más, la transformación digital debe ir precedida y abonada por la transformación cultural de las organizaciones. Sí, sin duda de ningún género, la profesión médica y la inteligencia artificial tienen muchas conversaciones pendientes. Desde luego, estas dos propuestas no son las únicas posibles, pero sí se nos antojan tan importantes como urgentes.[1] Felipe Gómez-Pallete y Paz de Torres, Que los árboles no te impidan ver el bosque. Caminos de la inteligencia artificial. Editorial Círculo Rojo, 2022. Disponible en https://bit.ly/3DFTzw8 [2] De los 335 artículos en que la IA es mencionada, analizamos el contenido de medio centenar. Esta muestra fue elegida de la siguiente forma: Un tercio de los artículos más antiguos; un tercio de los más recientes y un último tercio de los publicados en el ecuador del período 2011 – 2022. [3] Martin Heidegger, La pregunta por la técnica. Herder, 2021. Disponible en https://amzn.to/3UHZt5j [4] Mónica M. Bernardo, “Presente y futuro de la IA en salud”. El Médico Interactivo, 5 de enero de 2022. Disponible en https://bit.ly/3hiGXCO [5] Entrevista a Purificación López-García, bióloga. XL Semanal, 18 de noviembre de 2022. Disponible en https://bit.ly/3uIAhkC [6] Margaret A. Boden, Inteligencia artificial. Turner, 2022, 155. Disponible en https://bit.ly/3FJBq1E [7] Paz de Torres, Cómo fortalecer la credibilidad de las organizaciones públicas. El ejemplo de la ONT y los modelos de gestión de integridad. Título Experto en Integridad Corporativa, Transparencia y Buen Gobierno. Transparency International España. 30 de noviembre de 2018. Disponible en https://bit.ly/3PauFsI