HỌC SÂU

DS-GA 1008 · Học kỳ mùa xuân 2020 · Trung tâm khoa học dữ liệu, NYU

Người hướng dẫn Yann LeCun & Alfredo Canziani
Bài giảng Thứ hai 16:55 – 18:35, GCASL C95
Thực hành Thứ ba 19:10 – 20:00, GCASL C95
PIAZZA Mã truy cập: DLSP20
Tài liệu Google Drive, Notebooks

Mô tả khóa học

Khóa học này liên quan đến các kỹ thuật mới nhất trong học sâu (Deep learning) và học biểu diễn (Representation learning), nội dung tập trung vào học sâu có giám sát (Supervised learning) và không giám sát (Unsupervised learning), các phương pháp nhúng (Embedding methods), học số liệu (Metric learning), mạng tích chập (Convolutional) và lặp lại (recurrent nets), với các ứng dụng cho thị giác máy tính (Computer vision), hiểu ngôn ngữ tự nhiên (Natural language understanding) và nhận diện giọng nói (Speech recognition). Các điều kiện tiên quyết, bao gồm: Giới thiệu về khoa học dữ liệu (DS-GA 1001) hoặc các khóa học máy học cấp độ sau đại học.

Bài giảng

Chú giải: 🖥 Slides, 📓 Jupyter notebook, 🎥 YouTube video.

Tuần Định dạng Tiêu đề Tài liệu tham khảo
Bài giảng Lịch sử và cảm hứng 🖥️ 🎥
Sự phát triển và học sâu
Thực hành Mạng thần kinh (NN) 📓 📓 🎥
Bài giảng SGD và backprop 🖥️ 🎥
Backprop trong thực tế
Thực hành Huấn luyện mạng lưới thần kinh (Neural Networks) 🖥 📓 📓 🎥
Bài giảng Biến đổi tham số 🖥️ 🎥
Mạng lưới tích chập (Convolutional Neural Networks)
Thực hành Tín hiệu tự nhiên' properties 🖥 📓 🎥
Thực hành Tích chập 1D 📓 🎥
Bài giảng Tối ưu hóa I 🖥️ 🎥
Tối ưu hóa II
Thực hành CNN, autograd 📓 📓 🎥
Bài giảng Ứng dụng của CNN 🖥️ 🖥️ 🎥
RNNs và sự chú ý
Thực hành Huấn luyện RNNs 📓 📓 🖥️ 🎥
Bài giảng Mô hình dựa trên năng lượng 🖥️ 🎥
SSL, EBM
Thực hành Mã tự động (Autoencoders) 🖥️ 📓 🎥
Bài giảng Các phương pháp phức hợp (Contrastive methods) 🖥️ 🎥
Regularised latent
Thực hành Huấn luyện VAEs 🖥️ 📓 🎥
Bài giảng Sparsity 🖥️ 🎥
Mô hình World, GANs
Thực hành Huấn luyện GANs 🖥️ 📓 🎥
Bài giảng CV SSL I 🖥️ 🎥
CV SSL II
Thực hành Kiểm soát dự đoán (Predictive Control) 🖥️ 📓 🎥
Bài giảng Kích hoạt (Activations) 🖥️ 🖥️ 🖥️ 🎥
Mất mát (Losses)
Thực hành PPUU 🖥️ 📓 🎥
Bài giảng Học sâu cho Xử lý ngôn ngữ tự nhiên I 🖥️ 🎥
Học sâu cho Xử lý ngôn ngữ tự nhiên II
Thực hành Sự chú ý và chuyển đổi (Attention & transformer) 🖥️ 📓 🎥
Bài giảng GCNs I 🖥️ 🎥
GCNs II
Thực hành GCNs III 🖥️ 📓 🎥
Bài giảng Cấu trúc dự đoán (Structured Prediction) 🖥️ 🎥
Phương pháp đồ họa (Graphical methods)
Thực hành Quy định hóa và Baysian (Regularisation and Bayesian) 🖥️ 📓 🖥️ 📓 🎥
Thực hành Suy luận cho biến tìm ẩn EBMs 🖥️ 🎥
Đào tạo biến tìm ẩn EBMs 🖥️ 🎥

Giảng viên

Vai trò Ảnh Liên lạc Giới thiệu
Giảng viên Yann LeCun
yann@cs.nyu.edu
Giáo sư chính khoa Khoa học máy tính, NYU
và giành được giải thưởng Turing Award (2018)
Giảng viên Alfredo Canziani
canziani@nyu.edu
Trợ lý giáo sư của khoa Khoa học máy tính, NYU
Trợ giảng Mark Goldstein
goldstein@nyu.edu
Sinh viên Tiến sĩ của khoa Khoa học máy tính, NYU
Quản trị Web Zeming Lin
zl2799@nyu.edu
Sinh viên Tiến sĩ của khoa Khoa học máy tính, NYU