Según las
nuevas orientaciones de la OMS publicadas hoy, la inteligencia artificial (IA)
ofrece grandes expectativas para mejorar la prestación de atención de salud y
la medicina en todo el mundo, siempre y cuando la ética y los derechos humanos
ocupen un lugar central en su concepción, despliegue y utilización.
El
informe, titulado Ethics and governance of artificial intelligence for
health (ética y gobernanza de la inteligencia artificial en el ámbito
de la salud), es el resultado de dos años de consultas celebradas por un grupo
de expertos internacionales nombrados por la OMS.
«Como toda
nueva tecnología, la inteligencia artificial ofrece grandes posibilidades para
mejorar la salud de millones de personas en todo el mundo; ahora bien, como
toda tecnología, también puede utilizarse indebidamente y causar daño», dijo el
Dr. Tedros Adhanom Ghebreyesus, Director General de la OMS. «Este nuevo e
importante informe proporciona a los países una valiosa guía sobre la manera de
aumentar al máximo los beneficios de la IA, al tiempo que se minimizan sus
riesgos y se evitan sus trampas».
La
inteligencia artificial puede utilizarse, lo que ya se está haciendo en algunos
países ricos, para mejorar la velocidad y la precisión del diagnóstico y la
detección de enfermedades; facilitar la atención clínica; reforzar la
investigación en el ámbito de la salud y el desarrollo de medicamentos, y
apoyar diversas intervenciones de salud pública, como la vigilancia de la
morbilidad, la respuesta a los brotes y la gestión de los sistemas de salud.
La IA
también podría permitir que los pacientes tuvieran un mayor control de su
propia atención de salud y comprendieran mejor la evolución de sus necesidades.
Además, podría facilitar el acceso a los servicios de salud en los países con
escasos recursos y las comunidades rurales, donde los pacientes a menudo tienen
dificultades para acceder a los agentes de salud o al personal médico.
Sin
embargo, en el nuevo informe de la OMS se advierte del peligro de sobreestimar
las ventajas de la IA en el ámbito de la salud, sobre todo cuando esto se hace
en detrimento de inversiones y estrategias básicas que son necesarias para
lograr la cobertura sanitaria universal.
Además, en
él también se señala que las oportunidades conllevan desafíos y riesgos, como
la recopilación y utilización poco éticas de los datos sobre salud; los sesgos
codificados en los algoritmos, y los riesgos que presenta la IA para la
seguridad del paciente, la ciberseguridad y el medio ambiente.
Así, por
ejemplo, si bien la inversión de los sectores público y privado en el
desarrollo y despliegue de la IA es fundamental, el uso no regulado de la IA
podría subordinar los derechos e intereses de los pacientes y las comunidades a
los poderosos intereses comerciales de las empresas tecnológicas o a los
intereses de los gobiernos en materia de vigilancia y control social.
El informe
también pone de relieve que los sistemas entrenados principalmente a partir de
datos recopilados de personas que viven en países de alto ingreso pueden no
funcionar bien en el caso de las poblaciones de entornos de ingreso bajo o
mediano.
Por lo
tanto, los sistemas de IA deberían diseñarse cuidadosamente a fin de reflejar
la diversidad de los entornos socioeconómicos y de atención de salud. Estos
deberían acompañarse de formación en aptitudes digitales, de implicación
comunitaria y de sensibilización, en particular para los millones de agentes de
salud cuya alfabetización digital o readaptación profesional serán necesarias
en caso de que se automaticen sus cometidos y funciones, y que deberán lidiar
con máquinas que podrían poner en entredicho las facultades decisorias y la
autonomía de los prestadores y los pacientes.
En última
instancia y, guiándose por las leyes existentes y las obligaciones en materia
de derechos humanos, así como por las nuevas leyes y políticas que incorporan
principios éticos, los gobiernos, los proveedores y los diseñadores deben
trabajar conjuntamente para abordar las preocupaciones éticas y de derechos
humanos en cada etapa de la concepción, desarrollo y despliegue de una
tecnología basada en la IA.
Seis principios para garantizar que la IA se utilice en aras del interés
público en todos los países
A fin de limitar los riesgos y aumentar al máximo las oportunidades que
conlleva la utilización de la IA en el ámbito de la salud, la OMS propone que
la reglamentación y gobernanza de la IA se basen en los principios siguientes:
Preservar la autonomía del ser humano: En el
contexto de la atención de salud, ello significa que los seres humanos deberían
seguir siendo dueños de los sistemas de atención de salud y las decisiones
médicas; se debería preservar la privacidad y la confidencialidad, y los
pacientes deben dar su consentimiento informado y válido por medio de marcos
jurídicos adecuados para la protección de datos.
Promover el bienestar y la seguridad de las personas y el interés
público. Los diseñadores de tecnologías
de IA deberían cumplir los requisitos normativos en materia de seguridad,
precisión y eficacia para indicaciones o usos bien definidos. Se deben
instaurar medidas de control de la calidad en la práctica y de mejora de la
calidad en la utilización de la IA.
Garantizar la transparencia, la claridad y la inteligibilidad. La transparencia exige que se publique o documente información
suficiente antes de la concepción o el despliegue de una tecnología de IA. Esa
información debe ser fácilmente accesible y facilitar consultas y debates
provechosos sobre la concepción de la tecnología y sobre el uso que se debería
hacer o no de esta.
Promover la responsabilidad y la rendición de cuentas. Las tecnologías de IA permiten realizar tareas específicas; ahora
bien, incumbe a las partes interesadas velar por que estas sean utilizadas en
condiciones apropiadas y por personas debidamente formadas. Se deberían
instaurar mecanismos eficaces para que las personas y los grupos que se vean
perjudicados por decisiones basadas en algoritmos puedan cuestionarlas y obtener
reparación.
Garantizar la inclusividad y la equidad. La inclusividad requiere que la IA aplicada a la salud sea
concebida de manera que aliente la utilización y el acceso equitativos en la
mayor medida de lo posible, con independencia de la edad, el sexo, el
género, el ingreso, la raza, el origen étnico, la orientación sexual, la
capacidad u otras características amparadas por los códigos de derechos
humanos.
Promover una IA con capacidad de respuesta y sostenible. Los diseñadores, desarrolladores y usuarios deberían evaluar de
forma continua y transparente las aplicaciones de la IA en situación real a fin
de determinar si esta responde de manera adecuada y apropiada a las
expectativas y las necesidades. Los sistemas de IA también se deberían concebir
de modo que se reduzcan al mínimo sus efectos medioambientales y se aumente la
eficiencia energética. Los gobiernos y las empresas deberían anticipar las
perturbaciones ocasionadas en el lugar de trabajo, en particular la formación
que se deberá impartir a los agentes de salud para que se familiaricen con el
uso de los sistemas de IA, y las posibles pérdidas de empleos debidas a la
utilización de sistemas automatizados.
Estos
principios orientarán la labor futura de la OMS para respaldar los esfuerzos
encaminados a garantizar que todas las posibilidades que ofrece la IA para la
atención de salud y la salud pública se utilicen en beneficio de todos.
Fuente: OMS
No hay comentarios.:
Publicar un comentario