En
una nueva publicación, la Organización Mundial de la Salud (OMS)
presenta una serie de cuestiones que cabe tener en cuenta a fin de regular
la inteligencia artificial para la salud. La publicación recalca la importancia
de establecer la efectividad y seguridad de los sistemas de inteligencia
artificial, de poner con prontitud estos sistemas a la disposición de quienes
los necesiten y de favorecer el diálogo entre las partes interesadas, incluidos
los desarrolladores, reguladores, fabricantes, trabajadores de la salud y
pacientes.
Con la
creciente disponibilidad de la información sobre la atención a la salud y los
rápidos avances en técnicas analíticas (ya sean de aprendizaje automático o
modelos lógicos o estadísticos), las herramientas de inteligencia artificial
podrían transformar el sector de la salud. La OMS reconoce el potencial de la
inteligencia artificial para mejorar los efectos en la salud mediante el
fortalecimiento de los ensayos clínicos, el diagnóstico médico, el tratamiento,
el cuidado personal y la atención centrada en la persona, así como el apoyo a
los conocimientos, capacidades y competencias de los profesionales de la
atención en salud. Por ejemplo, podría resultar beneficiosa en entornos con
falta de médicos especialistas, ya sea para interpretar escáneres retinales e
imágenes radiológicas, o con otros fines.
No
obstante, las tecnologías de inteligencia artificial, incluidos los grandes
modelos lingüísticos, se están desplegando rápidamente, a veces sin total
comprensión de su posible funcionamiento, que podría beneficiar o perjudicar a
los usuarios finales, incluidos los profesionales de la salud y los pacientes.
Al utilizar datos de salud, estos sistemas podrían tener acceso a información
personal sensible, por lo que requieren de marcos jurídicos y regulatorios
sólidos para salvaguardar la privacidad, la seguridad y la integridad. Esto es
lo que la presente publicación pretende ayudar a plantear y mantener.
«La
inteligencia artificial resulta muy prometedora para la salud, pero también
presenta retos importantes, lo que incluye la recopilación de datos no ética,
las amenazas a la ciberseguridad y el aumento de los sesgos y la
desinformación», dijo el Dr. Tedros Adhanom Ghebreyesus, Director General de la
OMS. «Estas nuevas pautas ayudarán a los países a regular la inteligencia
artificial de manera efectiva, aprovechar su potencial para tratar el cáncer o
detectar la tuberculosis, y minimizar los riesgos».
En
respuesta a las crecientes necesidades de los países de regular
responsablemente el rápido surgimiento de las tecnologías de la salud basadas
en la inteligencia artificial, la publicación destaca seis áreas:
· Con el fin
de fomentar la confianza, subraya la importancia de la transparencia y la
documentación, lo que se traduce en documentar el ciclo completo de vida
del producto y registrar los procesos de su desarrollo.
· En cuanto a
la gestión de los riesgos, hay cuestiones como el «uso previsto», el
«aprendizaje continuo», las intervenciones humanas, los modelos de
entrenamiento y las amenazas a la ciberseguridad que deben mejorarse de manera
exhaustiva y simplificarse lo máximo posible.
· La validación
externa de los datos y la claridad sobre el uso previsto de
la inteligencia artificial ayudan a salvaguardar la seguridad y facilitan la
regulación.
· El
compromiso con la calidad de los datos, que puede demostrarse mediante
la evaluación rigurosa de los sistemas previa a sus lanzamientos, es vital para
asegurarse de que los sistemas no extiendan los sesgos y la desinformación.
· Los retos que plantean las regulaciones complejas e importantes, como el Reglamento General de Protección de Datos en Europa y la Ley de Portabilidad y Responsabilidad del Seguro Médico en los Estados Unidos de América, se abordan con un énfasis en la comprensión del alcance de la jurisdicción y los requisitos para el consentimiento, al servicio de la privacidad y la protección de datos.
· Promover la colaboración entre los organismos reguladores, pacientes, profesionales de la salud, representantes de las industrias y los asociados gubernamentales puede ayudar a asegurarse de que los productos y servicios cumplan con las regulaciones a lo largo de sus ciclos de vida.
Los
sistemas de inteligencia artificial son complejos y no solo dependen del código
con el que se fabriquen; también influyen los datos con los que son entrenados,
que provienen de entornos clínicos e interacciones entre usuarios, entre otros.
La mejora de la regulación puede ayudar a controlar los riesgos de que la
inteligencia artificial extienda sesgos existentes en los datos de
entrenamiento.
Por
ejemplo, los modelos de inteligencia artificial pueden tener dificultades para
representar con precisión la diversidad de las poblaciones, lo que provoca
sesgos, inexactitudes o incluso errores. A fin de ayudar a mitigar los riesgos,
se puede emplear la reglamentación para que consten las características como el
género, la raza y la etnia de las personas que aparecen en los datos de
entrenamiento, y para que los conjuntos de datos se estructuren deliberadamente
de manera representativa.
La nueva
publicación de la OMS pretende exponer principios clave que los gobiernos y las
autoridades reguladoras pueden seguir para desarrollar nuevas pautas sobre la
inteligencia artificial o adaptar las ya existentes, a nivel nacional o
regional.
Fuente: Servicio
de Prensa para los medios de comunicación OMS
Email: mediainquiries@who.int
No hay comentarios.:
Publicar un comentario