Uno de los campos donde más se está extendiendo la inteligencia artificial es en la salud. En este momento, se necesita una regulación adecuada para generar confianza tanto a los profesionales sanitarios como a los pacientes. Martin McKee, de la Facultad de Política y Salud Pública de la Escuela de Medicina Tropical e Higiene, Olivier J. Wouters, del Departamento de Política de la Salud de la Escuela de Economía, ambas en Londres, analizan en un artículo que se publica en
International Journal of Health Policy and Management los retos de dicha regulación.
Para ello, se centran en cinco puntos. En primer lugar, una aplicación de inteligencia artificial, cuando se utiliza, es solo una parte de un sistema clínico complejo. Requiere que se introduzcan datos en una forma aceptable. Lo que no se sabe es qué sucede si el dispositivo de entrada de datos no está calibrado adecuadamente o si la aplicación sólo puede interpretar imágenes de una determinada calidad.
En segundo lugar los autores se preguntan si el proceso de entrenamiento de la aplicación puede incorporar valores y sesgos propios de la asistencia sin tenerlos que introducir. Por eso, la regulación debe contemplar dicha situación y establecer salvaguardas para garantizar que los procesos se hagan de manera segura, ética y que mantenga la privacidad individual. Esto podría mejorar en gran medida los sistemas de inteligencia artificial en la asistencia médica.
Aprendizaje automático
En tercer lugar, cuando la aplicación incluye aprendizaje automático, sus resultados irán cambiando con el tiempo. Por eso, debería tener un límite de tiempo y revisarse de forma periódica. De hecho, la FDA ha propuesto un proceso de ciclo de vida, desde el desarrollo previo al mercado hasta el rendimiento posterior. La duda es cómo funcionará en la práctica clínica.
El tema de la protección de datos es el cuarto punto mencionado en el estudio. Por ejemplo, el Reglamento Europeo de Protección de Datos indica que solo se recojan los datos necesarios del paciente. Sin embargo, las aplicaciones de inteligencia artificial requieren una gran cantidad de datos y a menudo es difícil, si no imposible, determinar qué información es necesaria para que los algoritmos funcionen y cuál no lo es.
En último y quinto lugar McKee y Wouters indican que las aplicaciones están recopilando cantidades enormes de datos, lo que plantea problemas de privacidad. Es posible identificar características del paciente que no desean que se registren en sus datos; por ejemplo, se sabe que la inteligencia artificial puede predecir parámetros como la edad cronológica a partir de datos radiológicos.
Primeros esquemas
El Acta de Inteligencia Artificial de la Unión Europea puede ser uno de los primeros esquema regulatorios integrales para la inteligencia artificial. En él se dividen los productos en categorías de riesgo.
No obstante, quedan muchas dudas por resolver. Una es la compartida con la FDA que se centra en la necesidad de diseñar un proceso regulatorio que abarque todo el ciclo de vida de la aplicación. Es importante intentar mantener el equilibrio entre la innovación y la seguridad del paciente, desde antes que la aplicación esté en el mercado. Aquí se puede recoger la experiencia de los ensayos clínicos y adaptarla a la inteligencia artificial.
También es necesario conocer el beneficio real para el paciente, cosa que dejaría de lado las aplicaciones que son básicamente herramientas de recolección de datos. Una vez que se haya introducido la aplicación en el mercado, debería haber reglas claras sobre los cambios en el software que son importantes como para justificar una revisión adicional y asegurarse de que no se hayan introducido nuevos riesgos. Finalmente, podría haber un requisito para realizar auditorías periódicas, en intervalos de tiempo fijados con el fin de identificar posibles desviaciones del rendimiento inicial.
Diversas evaluaciones
El segundo grupo es común a la regulación de productos médicos convencionales, incluidos los productos farmacéuticos. Se trata de cómo se pueden llevar a cabo las evaluaciones del proceso regulatorio en poblaciones que no son representativas de aquellas en las que se utilizarán. Por ejemplo, se sabe que algunos ensayos clínicos de medicamentos excluyen a las personas mayores o a aquellas con multimorbilidad. Este hecho es importante cuando se evalúan las aplicaciones de inteligencia artificial. Además, importante anticipar, investigar y prevenir que los algoritmos reproduzcan o refuercen los sesgos existentes.
Como se desprende de este análisis, la situación no es fácil, pero hay que saber que las aplicaciones de inteligencia artificial en salud han avanzado rápidamente y lo seguirán haciendo.
Ya se han beneficiado muchos pacientes, pero el entorno regulatorio debe mantenerse actualizado para, en la medida de lo posible, prevenir los riesgos que puedan surgir.
McKee M, Wouters OJ.
The challenges of regulating artificial intelligence in healthcare: Comment on “Clinical decision support and new regulatory frameworks for medical devices: Are we ready for it? - a viewpoint paper.” Int J Health Policy Manag. 2023;12:7261. doi:10.34172/ijhpm.2022.7261.
