APRENDIZAGEM PROFUNDA

DS-GA 1008 · PRIMAVERA 2020 · CENTRO DE CIÊNCIA DE DADOS DA NYU

INSTRUTORES Yann LeCun & Alfredo Canziani
AULAS Segundas-feiras 16:55 – 18:35, GCASL C95
PRÁTICAS Terças-feiras 19:10 – 20:00, GCASL C95
FÓRUM r/NYU_DeepLearning
MATERIAL Google Drive, Notebooks

Descrição

Este curso trata das técnicas mais recentes em aprendizagem profunda e aprendizagem de representação, com foco em aprendizagem profunda supervisionada e não supervisionada, métodos de incorporação, aprendizagem métrica, redes convolucionais e recorrentes, com aplicações para visão computacional, compreensão de linguagem natural e reconhecimento de fala. Os pré-requisitos incluem: DS-GA 1001 Introdução à Ciência de Dados ou um curso de aprendizado de máquina de pós-graduação.

Aulas

Legenda: 🖥 slides, 📓 Jupyter notebook, 🎥 vídeo do YouTube.

Semana Formato Título Recursos
Aula História e motivação 🖥️ 🎥
Evolução e DL
Prática Redes neurais (NN) 📓 📓 🎥
Aula SGD e backprop 🖥️ 🎥
Backprop na prática
Prática Treinamento de NNs 🖥 📓 📓 🎥
Aula Transformação de parâmetros 🖥️ 🎥
CNN
Prática Propriedades de sinais naturais 🖥 📓 🎥
Prática Convoluções em 1D 📓 🎥
Aula Otimização I 🖥️ 🎥
Otimização II
Prática CNN, autograd 📓 📓 🎥
Aula Aplicações de CNNs 🖥️ 🖥️ 🎥
RNNs e atenção
Prática Treinando RNNs 📓 📓 🖥️ 🎥
Aula Modelos Baseados em Energia 🖥️ 🎥
SSL, EBM
Prática Autocodificadores 🖥️ 📓 🎥
Aula Métodos constrativos 🖥️ 🎥
Latente regularizado
Prática Treinando VAEs 🖥️ 📓 🎥
Aula Esparsidade 🖥️ 🎥
Modelos do mundo, GANs
Prática Treinando GANs 🖥️ 📓 🎥
Aula CV SSL I 🖥️ 🎥
CV SSL II
Prática Controle preditivo 🖥️ 📓 🎥
Aula Ativações 🖥️ 🖥️ 🖥️ 🎥
Perdas
Prática PPUU 🖥️ 📓 🎥
Aula DL para PLN I 🖥️ 🎥
DL para PLN II
Prática Atenção & transformador 🖥️ 📓 🎥
Aula GCNs I 🖥️ 🎥
GCNs II
Prática GCNs III 🖥️ 📓 🎥
Aula Predição Estruturada 🖥️ 🎥
Métodos gráficos
Prática Regularização e Bayesiana 🖥️ 📓 🖥️ 📓 🎥
Prática Inferência para Variável Latente EBMs 🖥️ 🎥
Treinando Variável Latente EBMs 🖥️ 🎥

Pessoas

Cargo Foto Contato Sobre
Instrutor Yann LeCun
yann@cs.nyu.edu
Silver Professor em CS
na NYU e ganhador
do Prêmio Turing
Instrutor Alfredo Canziani
canziani@nyu.edu
Professor Assistente em Ciência da Computação na NYU
Asistente Mark Goldstein
goldstein@nyu.edu
Estudante de doutorado em Ciência da Computação na NYU
Webmaster Zeming Lin
zl2799@nyu.edu
Estudante de doutorado em Ciência da Computação na NYU