APRENDIZAGEM PROFUNDA

DS-GA 1008 · PRIMAVERA 2020 · CENTRO DE CIÊNCIA DE DADOS DA NYU

INSTRUTORES Yann LeCun & Alfredo Canziani
AULAS Segundas-feiras 16:55 – 18:35, GCASL C95
PRÁTICAS Terças-feiras 19:10 – 20:00, GCASL C95
FÓRUM r/NYU_DeepLearning
MATERIAL Google Drive, Notebooks

Descrição

Este curso trata das técnicas mais recentes em aprendizagem profunda e aprendizagem de representação, com foco em aprendizagem profunda supervisionada e não supervisionada, métodos de incorporação, aprendizagem métrica, redes convolucionais e recorrentes, com aplicações para visão computacional, compreensão de linguagem natural e reconhecimento de fala. Os pré-requisitos incluem: DS-GA 1001 Introdução à Ciência de Dados ou um curso de aprendizado de máquina de pós-graduação.

Aulas

Legenda: 🖥 slides, 📓 Jupyter notebook, 🎥 vídeo do YouTube.

Semana Formato Título Recursos
① Aula História e motivação 🖥️ 🎥
Evolução e DL
Prática Redes neurais (NN) 📓 📓 🎥
② Aula SGD e backprop 🖥️ 🎥
Backprop na prática
Prática Treinamento de NNs 🖥 📓 📓 🎥
③ Aula Transformação de parâmetros 🖥️ 🎥
CNN
Prática Propriedades de sinais naturais 🖥 📓 🎥
④ Prática Convoluções em 1D 📓 🎥
⑤ Aula Otimização I 🖥️ 🎥
Otimização II
Prática CNN, autograd 📓 📓 🎥
⑥ Aula Aplicações de CNNs 🖥️ 🖥️ 🎥
RNNs e atenção
Prática Treinando RNNs 📓 📓 🖥️ 🎥
⑦ Aula Modelos Baseados em Energia 🖥️ 🎥
SSL, EBM
Prática Autocodificadores 🖥️ 📓 🎥
⑧ Aula Métodos constrativos 🖥️ 🎥
Latente regularizado
Prática Treinando VAEs 🖥️ 📓 🎥
⑨ Aula Esparsidade 🖥️ 🎥
Modelos do mundo, GANs
Prática Treinando GANs 🖥️ 📓 🎥
⑩ Aula CV SSL I 🖥️ 🎥
CV SSL II
Prática Controle preditivo 🖥️ 📓 🎥
⑪ Aula Ativações 🖥️ 🖥️ 🖥️ 🎥
Perdas
Prática PPUU 🖥️ 📓 🎥
⑫ Aula DL para PLN I 🖥️ 🎥
DL para PLN II
Prática Atenção & transformador 🖥️ 📓 🎥
⑬ Aula GCNs I 🖥️ 🎥
GCNs II
Prática GCNs III 🖥️ 📓 🎥
⑭ Aula Predição Estruturada 🖥️ 🎥
Métodos gráficos
Prática Regularização e Bayesiana 🖥️ 📓 🖥️ 📓 🎥
⑮ Prática Inferência para Variável Latente EBMs 🖥️ 🎥
Treinando Variável Latente EBMs 🖥️ 🎥

Pessoas

Cargo Foto Contato Sobre
Instrutor Yann LeCun
yann@cs.nyu.edu		 Silver Professor em CS
na NYU e ganhador
do Prêmio Turing
Instrutor Alfredo Canziani
canziani@nyu.edu		 Professor Assistente em Ciência da Computação na NYU
Asistente Mark Goldstein
goldstein@nyu.edu		 Estudante de doutorado em Ciência da Computação na NYU
Webmaster Zeming Lin
zl2799@nyu.edu		 Estudante de doutorado em Ciência da Computação na NYU