Uma Análise da Capacidade de Explicação de Comitês de Explicadores
Aprendizado profundo; Imagem; Inteligência Artificial Explicável (XAI)
Nos últimos anos, a Inteligência Artificial consolidou-se como ferramenta essencial, suscitando novos desafios, entre eles a explicabilidade das decisões dos modelos de Inteligência Artificial, fundamental para tornar os modelos mais transparentes e alinhados às demandas éticas e regulatórias. Contudo, a explicabilidade visual tem avançado sem um consenso bem definido entre os pesquisadores, tendo como um dos principais problemas a avaliação de quais seriam as melhores técnicas e métricas, sendo este tópico ainda não devidamente explorado nos explicadores do tipo ensembles para redes neurais Convolucionais. Diante disso, este trabalho propõe-se avaliar explicadores ensembles, disponíveis ou implementados em caráter exploratório, a partir de uma metodologia sistemática de avaliação com um amplo conjunto de métricas e aplicação de técnicas de clusterização. A abordagem busca identificar os melhores explicadores ensembles e a forma de construí-los de modo a aprimorar a interpretabilidade dos modelos.