Reusing XAI techniques for personalized AI systems

Abstract

Interpretability has become a crucial aspect in the field of Artificial Intelligence. Although there are many Explainable AI (XAI) techniques that provide explanations and improve the interpretability of AI systems, there are certain limitations. One of the most important limitations is that it is necessary to have a deep understanding of XAI to determine which techniques are better to explain a specific AI model to a specific user. In this project, I reviewed some of the most well-known XAI libraries and methods. Then, I used these tools to build an API that unifies model-agnostic methods used to explain different types of models. Using the API as a basis, I built a case-based reasoning system that aims to recommend the best explanation techniques to users based on the feedback of previous users with similar background knowledge and AI models. The CBR system case base was populated by using real-user feedback on explanations for a set of use cases. Finally, I evaluate the case base and the performance of the system.

La interpretabilidad se ha vuelto un aspecto crucial en el campo de la Inteligencia Artificial. Aunque existen muchas técnicas de Inteligencia Artificial Explicable (XAI) que proporcionan explicaciones y mejoran la interpretabilidad de sistemas de IA, existen ciertas limitaciones. Una las limitaciones más importantes es la necesidad de tener un conocimiento profundo en XAI para determinar cuáles son los mejores métodos para explicar un modelo de IA específico a un usuario específico. En este trabajo hago una revisión de algunas de las librerías y métodos de XAI más conocidos. Luego, utilizando estas herramientas, desarrollo una API que unifica métodos agnósticos para explicar diferentes tipos de modelos. Utilizando dicha API como base, construyo un sistema de razonamiento basado en casos que busca recomendar las mejores técnicas de explicación a los usuarios, basándose en la evaluación previa de otros usuarios con conocimientos y modelos de IA similares. La base de casos del sistema CBR se generó utilizando la evaluación de usuarios reales acerca de explicaciones generadas sobre un conjunto de casos de uso. Finalmente, evalúo la base de casos y el rendimiento del sistema.