Un proyecto de investigación de la Universidad Nacional del Litoral, que busca detectar sesgos en los algoritmos aplicados al análisis de imágenes médicas, fue premiado por el programa Google Award for Inclusion Research.
Científicos del Conicet y la Universidad Nacional del Litoral (UNL) desarrollaron un proyecto de investigación que buscar identificar y anticipar los problemas de los sesgos de Inteligencia Artificial (IA) en los diagnósticos por imágenes -y así reducir al máximo el margen de error en un diagnóstico médico- por el que fueron recientemente seleccionados para el Google Award for Inclusion Research (Google AIR).
El trabajo con sello argentino Descubrimiento de sesgo no supervisado: anticipando problemas de equidad algorítmica en modelos de machine learning para análisis de imágenes médicas sin anotaciones de referencia, fue seleccionado para el Google AIR, un reconocimiento internacional que otorga la empresa a investigadores que logran trabajos con impacto positivo en el bien común y que les provee financiamiento de hasta 60.000 dólares.
Enzo Ferrante, investigador del Conicet en el Instituto de Investigación en Señales, Sistemas e Inteligencia Computacional (sinc(i),Conicet-UNL), lidera esta investigación que persigue como objetivo identificar y anticipar los problemas de los sesgos de Inteligencia Artificial (IA) en los diagnósticos por imágenes y así reducir al máximo el margen de error en un diagnóstico médico. Oriundo de Tandil, provincia de Buenos Aires, donde se recibió de ingeniero en sistemas, Ferrante después se especializó en Francia e Inglaterra y sus trabajos son de gran aporte e intercambio internacional.
En una entrevista con Télam-Confiar contó los inicios de su carrera, los que hoy llevan a la distinción y financiamiento a su equipo de parte de Google. “Venimos trabajando hace varios años ya en el desarrollo del sistema de inteligencia artificial para diagnóstico por imágenes, para asistir a los radiólogos y a los médicos, que son los que siempre toman la decisión final. Ese proceso de asistencia tiene varias formas. Por ejemplo, a partir de una imagen médica, por medio de redes neuronales, que es la tecnología que usamos, se puede detectar si hay una patología o no. O con una imagen de rayos X, si la persona tiene neumonía o no tiene neumonía. Ese tipo de desarrollo hacemos desde hace tiempo con IA. También hacemos todo lo referido a resonancia magnética del cerebro, para localizar un tumor y poder medirlo. Esa es toda la línea que tiene que ver con inteligencia artificial para análisis de imágenes médicas, en lo que vengo trabajando desde mi doctorado, que lo hice en París”, explicó Ferrante.
Y agregó: “En este proyecto en particular que nos financia Google por medio de esta convocatoria, la idea es poder anticiparnos a la aparición de esos sesgos. Es decir, tratar de poder evaluar si el sistema está sesgado o no, pero antes de que el sistema entre a ser usado”. El término “sesgado” -en este contexto- hace referencia a modelos de IA que presentan un rendimiento dispar en función del grupo demográfico al que pertenece el paciente.
Cuando se trata de IA para analizar datos de salud, el tema toma mayor peso dadas las tareas de análisis de imágenes médicas, como el diagnóstico asistido por computadora.
Consultado respecto a qué estudio tienen en cuenta para llevar adelante el proyecto, respondió “en cuanto al tipo de imágenes con el que trabajamos, estamos principalmente mirando imágenes de rayos X, en este caso, de imágenes de torso, que fue con las imágenes con las que empezamos mostrando que este tipo de sesgos podían existir. Son imágenes de rayos X de caja torácica, donde hay diagnósticos del tipo neumonía, neumotórax, cardiomegalia, diferentes diagnósticos que se pueden hacer en base a esa imagen”.
“En general, trabajamos con bases de datos públicas que están disponibles y que fueron creadas por algunas otras universidades. Por ejemplo, una de las que trabajamos fue creada por Stanford, otra por el NIH en Estados Unidos, en varios lugares distintos. En Argentina tenemos algunas colaboraciones con el Hospital Italiano de Buenos Aires particularmente en este proyecto. Y entonces trabajamos con ellos, con algunos radiólogos de allí”, sostuvo.
Una de las cuestiones clave es si pudieron identificar cómo reducir ese margen de error. Al respecto, el investigador señaló que “existen lo que se llama técnicas de mitigación de sesgos, que son algunos métodos que se suelen emplear”.
“Algunos tienen que ver con rebalancear las bases de datos. Para esto lo primero es identificar en las bases de datos que usamos para entrenar si hay un sesgo en el sentido de que, por ejemplo, el modelo anda peor en mujeres que en hombres. Entonces, con esa información, ir a la base de datos y ver ¿realmente están bien representadas las mujeres?”, describió.
Y continuó: “Trabajar a nivel de datos siempre es una de las formas más fáciles de atacar el problema. Y después, cosas que son las que estamos desarrollando nosotros a nivel metodológico, es pensar nuevos algoritmos en donde el proceso de aprendizaje automático que hacen los modelos esté de alguna manera influenciado por algunas restricciones que hagan que el modelo no tenga rendimiento dispar en los distintos grupos. Durante el entrenamiento es posible ir modificando cosas”.
El proyecto cuenta con el financiamiento y respaldo del Conicet, de la Facultad de Ingeniería y Ciencias Hídricas de la Universidad Nacional del Litoral y de la Agencia Nacional de Promoción de la Investigación, el Desarrollo Tecnológico y la Innovación.
