ISEL - Matemática Aplicada para a Indústria
Permanent URI for this community
Browse
Browsing ISEL - Matemática Aplicada para a Indústria by Author "Carvalho, Diogo Camilo de"
Now showing 1 - 1 of 1
Results Per Page
Sort Options
- Comparison between interpretability methods in object detectionPublication . Carvalho, Diogo Camilo de; Geraldes, Carlos; Enguica, RicardoAs redes neuronais profundas (DNN) são ferramentas muito poderosas e flexíveis. Com tais capacidades, estas t ˆem sido adotadas em diversos tipos de problemas: desde problemas clássicos com dados tabulares até problemas de texto e imagem. Na base dos problemas de imagem, estão as redes neuronais convulsionais (CNN). A CNN é um tipo de DNN especializado em classificação de imagens, segmentação de imagens e deteção de objetos. No entanto, devido à forma como as DNN são construídas, estes constituem modelos de caixa preta. Ou seja, não é possível compreender as razoes subjacentes que levam o modelo a tomar uma decisão específica. Esta limitação do algoritmo leva à resistência em adotar estes métodos em áreas mais sensíveis, como medicina, condução autónoma, finanças, etc. Portanto, a capacidade de interpretar e explicar as razoes subjacente de cada decisão do modelo ´e fundamental para diversas aplicações e será o principal foco desta tese. Atualmente, existem diversas técnicas que tentam apresentar uma explicação para qualquer modelo de DNN, no entanto, dada a diversidade de técnicas, torna-se difícil identificar quais são as melhores ou mais adequadas para um determinado cenário. Assim, neste estudo, é apresentada uma comparação entre várias técnicas populares de explicabilidade. Os resultados mostram que técnicas como D-RISE e LIME conseguem produzir explicações claras sobre as razões por trás de diversos modelo de visão computacional, proporcionando confiança ao utilizador. No entanto, estes métodos revelão-se computacionalmente dispendiosos. Porém, outros algoritmos menos dispendiosos em termos computacionais, como por exemplo o Grad-CAM e o Eigen-CAM tornam-se boas opções, fornecendo explicações rápidas, mesmo com um decréscimo na qualidade. É também possível concluir que estes métodos são excelentes para detetar problemas não identificados nos dados considerados, evitando dificuldades na fase de produção do sistema.