OMS publica guía ética para el uso de la inteligencia artificial en salud
18 de enero de 2024
La Organización Mundial de la Salud (OMS) lanzó una guía con nuevas orientaciones éticas para fomentar y garantizar un uso seguro en el ámbito sanitario de los grandes modelos de lenguaje (LMM), un tipo de inteligencia artificial (IA) generativa en rápido desarrollo.
Los LMM son capaces de generar textos y otros contenidos predictivos a partir del procesamiento masivo de datos, lo que les permite tener una presencia cada vez mayor en nuestras vidas. Algunos ejemplos de estos modelos son la controvertida herramienta Chat-GPT, que puede simular conversaciones humanas, o el sistema OpenAI Codex, que puede escribir código informático.
La OMS recuerda que estos avances hacen cada vez más posible el uso de los LMM en entornos médicos, tales como el diagnóstico, la investigación de síntomas y tratamientos, el desarrollo de fármacos o las tareas de administración sanitaria. Sin embargo, también alerta de que algunas de estas utilidades aún no están probadas ni se sabe si ofrecerán los beneficios esperados, lo que hace necesario establecer ciertas normas para su integración y uso con fines médicos y de salud pública.
La guía documenta algunos de los potenciales riesgos para los sistemas sanitarios, como el llamado «sesgo de automatización», por el que se podrían producir declaraciones falsas, inexactas, sesgadas o incompletas, perjudicando a las personas que utilicen dicha información para tomar decisiones sanitarias. Por ejemplo, un LMM podría generar un diagnóstico erróneo o un tratamiento inadecuado basado en datos incompletos o sesgados.
Los LMM, como otras formas de IA, también son vulnerables a riesgos de ciberseguridad que podrían poner en peligro la información de los pacientes o la fiabilidad de estos algoritmos y la prestación de asistencia médica, recuerda la organización sanitaria de la ONU. Por ejemplo, un LMM podría ser hackeado o manipulado para generar información falsa o maliciosa.
Ante esto, el primer paso propuesto por la OMS para una aplicación segura y eficaz de los LMM en el sector sanitario es una participación «vertical e integrada» de todas las partes interesadas, incluyendo gobiernos, empresas tecnológicas, proveedores de atención sanitaria y sociedad civil.
A nivel gubernamental, se recomienda la inversión en infraestructuras públicas accesibles a los desarrolladores de las IA a cambio de adherirse a los principios éticos establecidos. La OMS también aconseja a los gobiernos la promulgación de leyes que garanticen que los LMM cumplen con los derechos humanos, o la asignación de una agencia reguladora que evalúe si estas tecnologías cumplen con los requisitos antes de su uso.
En este sentido, el director del departamento de Salud Digital e Innovación de la OMS, Alain Labrique, aseguró en la presentación de la guía que «los gobiernos de todos los países deben liderar de forma cooperativa los esfuerzos para regular eficazmente el desarrollo y el uso de las tecnologías de IA, como los LMM».
Según la OMS, los esfuerzos también deberán aumentarse en todas las fases de desarrollo de los grandes modelos de lenguaje hacia un diseño «estructurado, inclusivo y transparente». En él han de participar no sólo ingenieros y científicos, sino también los usuarios potenciales y todas las partes interesadas directas e indirectas, incluyendo proveedores de servicios médicos, profesionales de la salud y pacientes.
Los desarrolladores de estas tecnologías deberán también ser capaces de predecir y comprender los posibles efectos secundarios de las IA y diseñarlas para realizar tareas bien definidas con la precisión y fiabilidad necesarias para mejorar la capacidad de los sistemas sanitarios y promover los intereses de los pacientes.
La guía de la OMS pretende ser un recurso útil y práctico para orientar el uso ético de los LMM en salud, así como para fomentar el debate y la investigación sobre este tema. La OMS espera que esta iniciativa contribuya a mejorar la calidad y la equidad de la atención sanitaria en todo el mundo.
