Nuevas directrices de la OMS podrían revolucionar la IA en atención médica

A medida que los datos médicos se vuelven cada vez más abundantes y los métodos analíticos como el aprendizaje automático, los sistemas basados en lógica y las técnicas estadísticas avanzan, la inteligencia artificial (IA) tiene el potencial de remodelar el panorama de la atención médica. Sin embargo, la rápida implementación de la IA, incluidos los grandes modelos de lenguaje, a veces ocurre sin comprender completamente sus implicaciones en el rendimiento, lo que podría ser ventajoso o perjudicial para los usuarios finales, como los proveedores de atención médica y los pacientes. Dado que los sistemas de IA pueden manejar datos personales confidenciales, es fundamental contar con medidas legales y regulatorias sólidas para proteger la privacidad, la seguridad y la integridad.

La Organización Mundial de la Salud (OMS, Ginebra, Suiza) ha emitido una nueva publicación que describe los factores regulatorios críticos relacionados con el uso de la IA en la atención médica. El informe subraya la necesidad de verificar la seguridad y eficacia de los sistemas de IA, hacer que los sistemas beneficiosos sean accesibles rápidamente para quienes los necesitan y fomentar debates entre diversas partes interesadas, como desarrolladores, reguladores, personal sanitario y pacientes. La OMS reconoce que la IA puede mejorar significativamente la atención sanitaria al impulsar los ensayos clínicos, mejorar los diagnósticos médicos, los tratamientos, el autocuidado y la atención individualizada, y apoyar a los profesionales de la salud de diversas maneras. Por ejemplo, la IA puede ser especialmente útil en entornos donde hay escasez de especialistas médicos, ayudando con tareas como interpretar escaneos de retina e imágenes radiológicas. El documento especifica seis áreas regulatorias clave para la IA en el cuidado de la salud, que incluyen transparencia y documentación, gestión de riesgos, validación de datos y claridad sobre el uso previsto de la IA, calidad de los datos, privacidad y protección de datos, y colaboración.

Imagen: La OMS ha esbozado consideraciones para la regulación de la inteligencia artificial para la salud (Fotografía cortesía de 123RF)

Los sistemas de IA son complejos y están influenciados no solo por los algoritmos en los que se basan, sino también por los datos con los que se entrenan, a menudo provenientes de entornos clínicos e interacciones de los usuarios. Una regulación eficaz puede gestionar los riesgos asociados con los sistemas de IA que amplifican los sesgos presentes en los datos de entrenamiento. Por ejemplo, los modelos de IA pueden tener dificultades para capturar la diversidad de diferentes poblaciones, lo que genera sesgos o incluso imprecisiones. Para minimizar tales riesgos, las regulaciones pueden garantizar que atributos como el género, la raza y el origen étnico en los datos de entrenamiento se informen de manera transparente y que los conjuntos de datos se hagan deliberadamente para que sean representativos. La nueva publicación de la OMS tiene como objetivo proporcionar un marco de principios fundamentales que los gobiernos nacionales o regionales y los organismos reguladores pueden adoptar o adaptar como orientación de la IA en la atención médica.

Enlaces relacionados:
OMS