Home
Contribution instructions
1.
第一周
1.1.
深度学习的动机及其历史和启示
1.2.
卷积神经网络(CNN)的演化及其用途,为何出现深度学习?
1.3.
问题动机、线性代数与视觉化
2.
第二周
2.1.
梯度下降和反向传播算法导论
2.2.
为神经网络的模组计算梯度,与反向传播的实用技巧
2.3.
人工神经网络(ANNs)
3.
第三周
3.1.
神经网络参数变换可视化及卷积的基本概念
3.2.
卷积网络的演变,架构,实现细节和优势。
3.3.
神经信号的性质
4.
第四周
4.1.
线性代数与卷积
5.
第五周
5.1.
优化工具1
5.2.
优化方法
5.3.
了解卷积和自动微分引擎
6.
第六周
6.1.
卷积网络的应用
6.2.
循环神经网络(RNNs)和门控循环单元(GRUs)﹑长短期记忆(LSTMs)﹑注意模组(Attention)﹑序列对序列(Seq2Seq)﹑记忆网络(Memory Networks)
6.3.
循环神经网络与LSTM模型的架构
7.
Week 7
7.1.
能量基础模型(Energy-Based Models)
7.2.
自我监督学习(SSL)﹑能量基础模型(EBM)的细节和例子
7.3.
自动编码器的简介
8.
Week 8
8.1.
在能量基础模型中的对比法
8.2.
正则化潜变量能量基礎模型
8.3.
Generative Models - Variational Autoencoders
9.
第九周
9.1.
判别类循环稀疏自编码器 (Discriminative Recurrent Sparse Auto-Encoder) and 组稀疏 (Group Sparsity)
9.2.
世界模型(World Model)和生成对抗网络(Generative Adversarial Networks)
9.3.
对抗性生成网络GANs
10.
第十周
10.1.
自我监督学习-前置任务
10.2.
自我監督學習-物以類聚法和PIRL
10.3.
The Truck Backer-Upper
11.
第十一周
11.1.
激活功函数和损失函数(第一部)
11.2.
损失函数(连续的)以及用于基于能量的模型的损失函数
11.3.
不確定性下的預測和策略學習(PPUU)
12.
第十二周
12.1.
自然语言处理中的深度学习
12.2.
解码语言模型
12.3.
注意力机制和Transformer
13.
第十三周
13.1.
Graph Convolutional Networks I
13.2.
图形卷积网络 II
13.3.
图形卷积网络 III
14.
第十四周
14.1.
用于结构化预测的深度学习
14.2.
图能量模型
14.3.
过拟合与正则化
15.
第十五周
15.1.
隐变量能量模型(EBM)的推导
15.2.
训练隐藏变量基础模型(EBM)
🇨🇳
Light
Rust
Coal
Navy
Ayu (default)
🇬🇧English
🇨🇳Chinese
深度学习
Contribution instructions
\gdef \sam #1 {\mathrm{softargmax}(#1)}
\gdef \vect #1 {\boldsymbol{#1}}
\gdef \matr #1 {\boldsymbol{#1}}
\gdef \E {\mathbb{E}}
\gdef \V {\mathbb{V}}
\gdef \R {\mathbb{R}}
\gdef \N {\mathbb{N}}
\gdef \relu #1 {\texttt{ReLU}(#1)}
\gdef \D {\,\mathrm{d}}
\gdef \deriv #1 #2 {\frac{\D #1}{\D #2}}
\gdef \pd #1 #2 {\frac{\partial #1}{\partial #2}}
\gdef \set #1 {\left\lbrace #1 \right\rbrace}
% My colours
\gdef \aqua #1 {\textcolor{8dd3c7}{#1}}
\gdef \yellow #1 {\textcolor{ffffb3}{#1}}
\gdef \lavender #1 {\textcolor{bebada}{#1}}
\gdef \red #1 {\textcolor{fb8072}{#1}}
\gdef \blue #1 {\textcolor{80b1d3}{#1}}
\gdef \orange #1 {\textcolor{fdb462}{#1}}
\gdef \green #1 {\textcolor{b3de69}{#1}}
\gdef \pink #1 {\textcolor{fccde5}{#1}}
\gdef \vgrey #1 {\textcolor{d9d9d9}{#1}}
\gdef \violet #1 {\textcolor{bc80bd}{#1}}
\gdef \unka #1 {\textcolor{ccebc5}{#1}}
\gdef \unkb #1 {\textcolor{ffed6f}{#1}}
% Vectors
\gdef \vx {\pink{\vect{x }}}
\gdef \vy {\blue{\vect{y }}}
\gdef \vb {\vect{b}}
\gdef \vz {\orange{\vect{z }}}
\gdef \vtheta {\vect{\theta }}
\gdef \vh {\green{\vect{h }}}
\gdef \vq {\aqua{\vect{q }}}
\gdef \vk {\yellow{\vect{k }}}
\gdef \vv {\green{\vect{v }}}
\gdef \vytilde {\violet{\tilde{\vect{y}}}}
\gdef \vyhat {\red{\hat{\vect{y}}}}
\gdef \vycheck {\blue{\check{\vect{y}}}}
\gdef \vzcheck {\blue{\check{\vect{z}}}}
\gdef \vztilde {\green{\tilde{\vect{z}}}}
\gdef \vmu {\green{\vect{\mu}}}
\gdef \vu {\orange{\vect{u}}}
% Matrices
\gdef \mW {\matr{W}}
\gdef \mA {\matr{A}}
\gdef \mX {\pink{\matr{X}}}
\gdef \mY {\blue{\matr{Y}}}
\gdef \mQ {\aqua{\matr{Q }}}
\gdef \mK {\yellow{\matr{K }}}
\gdef \mV {\lavender{\matr{V }}}
\gdef \mH {\green{\matr{H }}}
% Coloured math
\gdef \cx {\pink{x}}
\gdef \ctheta {\orange{\theta}}
\gdef \cz {\orange{z}}
\gdef \Enc {\lavender{\text{Enc}}}
\gdef \Dec {\aqua{\text{Dec}}}
This will be the translated version of
the about page
.