Banca de DEFESA: CARLOS EDUARDO MORAIS VIEIRA

Uma banca de DEFESA de MESTRADO foi cadastrada pelo programa.
DISCENTE : CARLOS EDUARDO MORAIS VIEIRA
DATA : 29/06/2021
HORA: 08:30
LOCAL: https://meet.google.com/hdo-edws-rfz
TÍTULO:

Avaliando o irace para aprendizado de máquina automatizado e profundo em visão computacional

PALAVRAS-CHAVES:

Aprendizado de máquina automatizado; configuração de algoritmos; visão computacional; aprendizado profundo; busca arquitetural neural

PÁGINAS: 75
RESUMO:

Aprendizado de máquina automatizado (AutoML) é um campo de grande interesse tanto à indústria quanto à academia. AutoML tem permitido que desenvolvedores trabalhando em aplicações de aprendizado de máquina (AM) alcançem resultados satisfatórios, mesmo com pouca ou nenhuma experiência em AM. Mais recentemente, ferramentas de AutoML focadas em modelos de aprendizado profundo (AP) têm sido especialmente úteis para aplicações onde algorítmos específicos de domínio são predominantes, como é o caso para tarefas de visão computacional (VC). Ainda assim, ferramentas de AutoML focadas em pipelines de AM mais simples continuam sendo uma alternativa importante, já que modelos de AP exigem grandes quantidades de recursos computacionais e oferecem modelos com interpretabilidade reduzida. Entre as principais abordagens de AutoML, a baseada em configuradores de algoritmos (CAs) é comumente usada para produzir pipelines mais simples, enquanto busca de redes neurais (BRN) é usada para produzir modelos de AP. Essas duas abordagens também têm certa interseção, já que um CA também pode ser usado como algoritmo de BRN.

Nesse trabalho, estudamos a aplicação do CA irace nessas duas abordagens distintas de AutoML. O configurador irace já foi aplicado com sucesso para design de algoritmos efetivos em problemas de configuração, mas ainda não foi aplicado a AutoML. Nosso avaliação é realizada em duas fases. Na primeira, propomos uma ferramenta de AutoML baseada no irace para produção de pipelines de AM simples e efetivos. Essa ferramente é chamada de iSklearn, para a qual definimos um espaço e setup de configuração. Demonstramos que iSklearn é capaz de produzir pipelines de AM efetivos usando irace como seu CA, com performance comparável a comitês mais complexos produzidas pelo AutoSklearn, uma ferramenta popular de AutoML baseado em configuração. Além disso, apresentamos os benefícios do espaço e setup de configuração propostos para o iSklearn, mesmo quando usadas em conjunto com outro CA.

Na segunda fase do nosso trabalho, avaliamos irace como um algoritmo de BRN. Para isso, avaliamos irace no NAS-Bench-101, um benchmark recente de BRN para o conjunto de dados de VC chamado CIFAR-10. Nós comparamos irace não só da perspectiva de qualidade final de solução, mas também da perspectiva de anytime performance através de uma formulação bi-objetiva. Resultados demonstram que irace pode ser usado como um algoritmo de BRN, obtendo resultados comparáveis aos melhores algorithmos incluídos no NAS-Bench-101 em termos de qualidade final. Porém, maiores trabalhos seriam necessários para melhorar sua anytime performance nesse contexto. Finalmente, discutimos outra escolhas de design experimental feitas no benchmark original, mostrando como elas afetam a performance relativa dos algoritmos de BRN, and oferecemos diretrizes para melhoria da análise de algoritmos de BRN através do uso do NAS-Bench-101.

MEMBROS DA BANCA:
Presidente - 2859562 - LEONARDO CESAR TEONACIO BEZERRA
Interno - 1669545 - DANIEL SABINO AMORIM DE ARAUJO
Externa à Instituição - LESLIE PÉREZ CÁCERES - PUC
Externo à Instituição - JOAQUIN VANSCHOREN