Stricto Sensu

Tópicos Especiais em Inteligência Computacional III (DEEP LEARNING) (ELE2762)

Objetivos

Deep Learning, também conhecida como aprendizado estruturado profundo, aprendizado hierárquico ou a aprendizagem de máquina de profundidade, é um ramo da aprendizagem por máquina com base em um conjunto de algoritmos que tentam modelar abstrações de alto nível em dados usando um gráfico profundo com várias camadas de processamento, composto por múltiplas transformações não-lineares e lineares. O objetivo da disciplina é introduzir Deep Learning, destacando a sua importância atual em criar modelos para aprender representações a partir de grandes massas de dados. Serão apresentados os principais algoritmos utilizados como redes neurais convolucionais, redes recorrentes e redes Deep Belief. Aplicações em visão computacional, reconhecimento de voz e reconhecimento de padrões, além de algoritmos adaptados para GPU e CPU, utilizando a linguagem PHYTON, serão vistos durante a disciplina.

Ementa

Introdução à Machine Learning, Redes neurais recorrentes e convolutivas, Redes de Boltzmann, Autoencoder, Phyton Deep Learning, frameworks DIGITS, Tensor Flow, Caffe, Theano, Torch, Programação Genética aplicada à Deep Learning, Aplicações em processamento de imagens, reconhecimento de voz e processamento de linguagem natural.

Programa
  1. Introdução a Machine Learning: descrição do curso e introdução a algoritmo Back propagation, redes neurais artificiais, exemplos e aplicações.
  2. Introdução a computação paralela e Big data: diferenciação entre os tipos de processador e memória; sistemas paralelos com memória distribuída/compartilhada. Arquiteturas para grandes maças de dados.
  3. Deep Learning, importância e relevância, estado da arte, algoritmos e aplicações.
  4. Deep Neural Networks, problemas, aplicações e exemplos.
  5. Redes neurais convolutivas, redes neurais recorrentes, arquiteturas, diferenças, frameworks.
  6. Aplicações em processamento de imagem, Benchmarks.
  7. Deep Learning com Python, introdução, librarias algoritmos básicos.
  8. Programação Genética aplicada à Deep Learning.
  9. Arquiteturas Deep Belief Networks, Deep Boltzmann Networks, Compound hierarchical-deep model, Autoencoder
  10. Introdução a Linux e manipulação de dados, interação com o cluster
  11. Interfase DIGITS Nvidea, introdução a deep learning GPU, Tensorflow
  12. Biblioteca Caffe, configuração e aplicações.
  13. Biblioteca Theano, configuração e aplicações.
  14. Aplicações em processamento de imagem.
  15. Aplicações em reconhecimento de voz e processamento de linguagem natural.
Cursos
  • Mestrado / Doutorado em Engenharia Elétrica
Pré-Requisitos

Professores

Não Disponível.

Bibliografia
  • Ian Goodfellow and Yoshua Bengio and Aaron (2016). Deep Learning MIT press book.
  • Bengio, S., Vinyals, O., Jaitly, N., and Shazeer, N. (2015). Scheduled sampling for sequence prediction with recurrent neural networks. Technical report.
  • Bengio, Y. (2015). Early inference in energy-based models approximates back-propagation. Technical Report arXiv:1510.02777, Universite de Montreal.
Avaliação

Provas Teórica e Prática, projeto final, produção e submissão de artigo.

Carga Horária

3 horas semanais

Outras Informações

Não Disponível.

Ementa Detalhada

Não Disponível