Mély Tanulás

DS-GA 1008 · SPRING 2020 · NYU CENTER FOR DATA SCIENCE

OKTATÓK Yann LeCun & Alfredo Canziani
ELŐADÁS Hétfő 16:55 – 18:35, GCASL C95
GYAKORLAT Kedd 19:10 – 20:00, GCASL C95
FÓRUM r/NYU_DeepLearning
DISCORD NYU DL
TANANYAG Google Drive, Notebooks

Leírás

Ez a kurzus a Deep Learning valamint Representation Learning legújabb technikáit tárgyalja, különös tekintettel a felügyelt (supervised) és nem felügyelt (unsupervised) mély tanulásra (deep learning), embedding módszerekre, metric tanulásra, convolutional és recurrent hálózatokra; a gépi látás (computer vision), a természetes nyelv valamint beszédfelismerés alkalmazási területein. A kurzus előfeltételei: DS-GA 1001 Intro to Data Science vagy mesterfokú képzésen gépi tanulás (machine learning) kurzus elvégzése.

Előadások

Legend: 🖥 Prezentáció, 📓 Jupyter notebook, 🎥 YouTube videó.

Hét Formátum Cím Anyagok
Előadás History and motivation 🖥️ 🎥
Evolution and DL
Gyakorlat Neural nets (NN) 📓 📓 🎥
Előadás SGD and backprop 🖥️ 🎥
Backprop in practice
Gyakorlat NN training 🖥 📓 📓 🎥
Előadás Parameter transformation 🖥️ 🎥
CNN
Gyakorlat Natural signals' properties 🖥 📓 🎥
Előadás 1D convolutions 📓 🎥
Előadás Optimisation I 🖥️ 🎥
Optimisation II
Gyakorlat CNN, autograd 📓 📓 🎥
Előadás CNN applications 🖥️ 🖥️ 🎥
RNNs and attention
Gyakorlat Training RNNs 📓 📓 🖥️ 🎥
Előadás Energy-Based Models 🖥️ 🎥
SSL, EBM
Gyakorlat Autoencoders 🖥️ 📓 🎥
Előadás Contrastive methods 🖥️ 🎥
Regularised latent
Gyakorlat Training VAEs 🖥️ 📓 🎥
Előadás Sparsity 🖥️ 🎥
World model, GANs
Gyakorlat Training GANs 🖥️ 📓 🎥
Előadás CV SSL I 🖥️ 🎥
CV SSL II
Gyakorlat Predictive Control 🖥️ 📓 🎥
Előadás Activations 🖥️ 🖥️ 🖥️ 🎥
Losses
Gyakorlat PPUU 🖥️ 📓 🎥
Előadás DL for NLP I 🖥️ 🎥
DL for NLP II
Gyakorlat Attention & transformer 🖥️ 📓 🎥
Előadás GCNs I 🖥️ 🎥
GCNs II
Gyakorlat GCNs III 🖥️ 📓 🎥
Előadás Structured Prediction 🖥️ 🎥
Graphical methods
Gyakorlat Regularisation and Bayesian 🖥️ 📓 🖥️ 📓 🎥
Gyakorlat Inference for Latent-Variable EBMs 🖥️ 🎥
Training Latent-Variable EBMs 🖥️ 🎥

People

Szerepkör Fotó Kapcsolat Leírás
Oktató Yann LeCun
yann@cs.nyu.edu
Silver Professor, Informatika, NYU
és Turing díjas
Oktató Alfredo Canziani
canziani@nyu.edu
Asst. Prof., Informatika, NYU
Tanársegéd Mark Goldstein
goldstein@nyu.edu
PhD hallgató, Informatika, NYU
Webmester Zeming Lin
zl2799@nyu.edu
PhD hallgató, Informatika, NYU