La Universidad de Hokkaido junto a Fujitsu desarrollan una tecnología de «IA Explicable” que ofrece a los usuarios pasos concretos para lograr los resultados deseados

La Universidad de Hokkaido, junto a la empresa Fujitsu, han desarrollado una nueva tecnología que se basa en el llamado principio de la «IA Explicable», la cual muestro de manera automática a los usuarios los pasos que hacen falta para obtener un resultado deseado. Esto lo lleva a cabo mediante el análisis que realiza la IA sobre los datos, como por ejemplo en las revisiones médicas.

La «IA Explicable» representa un área de creciente interés en el campo de la inteligencia artificial y el aprendizaje automático. Aunque las tecnologías de IA pueden tomar decisiones automáticamente a partir de los datos, la «IA Explicable» también proporciona razones individuales para estas decisiones, lo que ayuda a evitar el llamado fenómeno de la «caja negra», en el que la IA llega a conclusiones a través de medios poco claros y potencialmente problemáticos. Aunque ciertas técnicas también pueden proporcionar hipotéticas mejoras que se podrían obtener cuando se produce un resultado no deseable, éstas no proporcionan ningún paso concreto para mejorar.

Por ejemplo, si una IA que emite juicios sobre el estado de salud de una persona y determina que no es saludable, la nueva tecnología puede aplicarse para explicar primero la razón del resultado a partir de datos de exámenes médicos como la altura, el peso y la presión arterial. A continuación, puede ofrecer además al usuario sugerencias específicas sobre la mejor manera de recuperar la salud, identificando la interacción entre un gran número de complicados elementos de los exámenes médicos y a partir de datos anteriores, mostrando pasos específicos para conseguir mejorar, teniendo en cuenta la viabilidad y la dificultad de la implementación.

Esta nueva tecnología ofrece la posibilidad de mejorar la transparencia y la fiabilidad de las decisiones tomadas por la Inteligencia Artificial, lo que permitirá a más personas en el futuro interactuar con las tecnologías que la utilizan, ofreciendo una sensación de confianza y tranquilidad.

Antecedentes del desarrollo

En la actualidad, las tecnologías de aprendizaje profundo ampliamente utilizadas en los sistemas de IA que requieren tareas avanzadas, como el reconocimiento facial o la conducción automática, toman automáticamente diversas decisiones basadas en una gran cantidad de datos utilizando una especie de modelo predictivo de “caja negra”. Sin embargo, en el futuro se debe garantizar la transparencia y la fiabilidad de los sistemas de Inteligencia Artificial y esto, se convertirá en una cuestión importante para que la IA realice propuestas fundamentales para la sociedad. Esta necesidad ha hecho que aumente el interés y la investigación en tecnologías de «IA Explicable».

Por ejemplo, en las revisiones médicas, la IA puede determinar con éxito el nivel de riesgo de una enfermedad basándose en datos como el peso y la masa muscular (Figura 1 (A)). Además de los resultados del juicio sobre el nivel de riesgo, la atención se ha centrado cada vez más en la «IA explicable» que presenta los atributos (Figura 1 (B)) que sirvieron de base para el juicio.

Dado que la Inteligencia Artificial determina que los riesgos para la salud son elevados basándose en los atributos de los datos de entrada, es posible cambiar los valores de estos atributos, para obtener los resultados deseados con bajos riesgos para la salud.

la universidad de hokkaido junto a fujitsu desarrollan una tecnologia de ia explicable que ofrece a los usuarios pasos concretos para lograr los resultados deseados 2

Para conseguir los resultados deseados en las decisiones automatizadas de la IA, es necesario, no sólo presentar los atributos que hay que cambiar, sino también los que se pueden cambiar con el menor esfuerzo posible.

En el caso de los chequeos médicos, si se quiere cambiar el resultado de la decisión de la IA de un estado de alto riesgo a uno de bajo, conseguirlo con menos esfuerzo puede parecer aumentar la masa muscular (Figura 2 Cambio 1), pero no es realista aumentar sólo la masa muscular, sin cambiar el peso, por lo que incrementar el peso y la masa muscular simultáneamente es una solución más realista (Figura 2 Cambio 2). Además, hay muchas interacciones entre atributos como el peso y la masa muscular, como las relaciones causales en las que el peso aumenta con el crecimiento muscular, y el esfuerzo total necesario para realizar los cambios depende del orden en el que se cambian los atributos. Por lo tanto, es necesario presentar el orden adecuado en el que se cambian los atributos. En la Figura 2, no es obvio si hay que modificar primero el peso o la masa muscular para llegar al Cambio 2 desde el estado actual, por lo que sigue siendo un reto encontrar un método apropiado teniendo en cuenta la posibilidad y el orden de los cambios entre un gran número de candidatos potenciales.

la universidad de hokkaido junto a fujitsu desarrollan una tecnologia de ia explicable que ofrece a los usuarios pasos concretos para lograr los resultados deseados 1

Ir arriba