Por muy buenas que sean las
predicciones del aprendizaje profundo, nadie sabe cómo llega
a sus conclusiones. Este hecho está empezando a generar un
problema de confianza y las herramientas para resolverlo no
están ayudando demasiado. Pero tal vez así es la propia
naturaleza de la inteligencia.
En 2015, un grupo de investigadores
del Hospital Monte Sinaí de Nueva York (EEUU) quiso aplicar
el aprendizaje profundo a la vasta base de datos de
historiales de pacientes del hospital. Este conjunto de
datos incluye cientos de variables, procedentes de los
resultados de pruebas, consultas médicas y mucho más. El
programa resultante, que los investigadores llamaron Deep
Patient, fue entrenado con datos de alrededor de 700.000
individuos, y cuando fue probado con historiales nuevos, resultó
ser increíblemente bueno a la hora de precedir enfermedades.
Sin ninguna formación por parte de expertos, Deep Patient
había descubierto patrones ocultos dentro de los datos del
hospital que parecían indicar cuándo la gente estaba a punto
de desarrollar un amplio abanico de trastornos, incluido el
cáncer de hígado. Hay muchos métodos para predecir
enfermedades a partir del historial médico de un paciente
que rinden "bastante bien", según el líder del equipo, Joel
Dudley. Pero, añade: "Esto simplemente
era mucho mejor".
"Podemos elaborar estos modelos, pero
no sabemos cómo funcionan".
Al mismo tiempo, Deep Patient es algo
desconcertante. Parece anticipar el comienzo de trastornos
psiquiátricos como la esquizofrenia bastante bien. Pero dado
que es
un trastorno que a los médicos les cuesta mucho predecir,
Dudley no entendía los resultados de su
algoritmo. Y sigue sin hacerlo. La nueva herramienta da
pistas sobre cómo lo hace. Si algo como Deep Patient puede
ayudar a los médicos, lo ideal sería que compartiera el
razonamiento que le ha llevado hasta su predicción para
asegurarse de que es precisa y poder justificar, por
ejemplo, un cambio en la medicación que recibe un paciente.
Con una sonrisa algo triste, Dudley afirma: "Podemos
desarrollar estos modelos, pero no sabemos cómo funcionan".
la profesora del MIT Regina Barzilay,
que está empeñada en aplicar el aprendizaje automático a la
medicina. Fue diagnosticada con cáncer de mama hace un par
de años, a la edad de 43. El diagnóstico le resultó
impactante, pero Barzilay también estaba consternada por el
hecho de que los
métodos estadísticos más modernos y el aprendizaje
automático no estuvieran siendo empleados para apoyar las
investigaciones oncológicas ni para guiar los tratamientos de
los pacientes. Asegura que la IA tiene un enorme potencial
para revolucionar la medicina, pero alcanzar ese potencial
significará ir más allá de los historiales médicos. Le
gustaría que se emplearan muchos más datos, los cuales
asegura que están infrautilizados: "datos de imágenes, datos
patológicos, todas estas informaciones", aclara.
¿Esperamos llevarnos y comunicarnos
bien con máquinas inteligentes que podrían ser impredecibles
e inescrutables?
Después de finalizar su tratamiento el
año pasado, Barzilay y sus alumnos empezaron a colaborar con
médicos del Hospital General de Massachusetts (EEUU) para
desarrollar un sistema capaz de minar los informes de
patologías para identificar pacientes con determinadas
características que los investigadores tal vez querrían
estudiar. Sin embargo, Barzilay entendía que el sistema
tendría que explicar su razonamiento. Así que, junto con
Jaakkola y un alumno, añadió un paso: el sistema extrae
y señala las partes de un texto que más representan el
patrón que ha descubierto. Barzilay y sus
alumnos también están desarrollando un algoritmo de
aprendizaje profundo capaz de identificar las primeras
señales del cáncer de mama en imágenes de mamografía y
quieren dotarlo de la capacidad de explicar su razonamiento.
"Realmente necesitas tener un bucle de colaboración entre la
máquina y el humano", explica Barzilay.
Por Will Knight | traducido por Teresa
Woods
Resumen de una publicación del MIT Technology Review:
No hay comentarios.:
Publicar un comentario