Week 6

レクチャーパートA

畳み込みニューラルネットワークの3つの応用について議論しました。まず、数字の識別から始まり、5桁の郵便番号の識別への応用について話しました。物体検出では、顔検出の設定でマルチスケールアーキテクチャをどのように利用するかを話しました。最後に、ロボット視覚システムと都市環境における物体セグメンテーションの具体例を用いて、セマンティックセグメンテーションタスクに畳み込みニューラルネットがどのように利用されているかを見ました。

レクチャーパートB

リカレントニューラルネットワークとその問題点、およびこれらの問題点を緩和するための一般的な技術について検討しました。 次に、Attention、GRU（Gated Recurrent Unit）、LSTM（Long Short-Term Memory）、Seq2Seqなど、RNNモデルの問題を解決するために開発された様々なモジュールをおさらいしました。

演習

通常のRNNモデルとLSTMモデルのアーキテクチャを議論し、両者の性能を比較しました。LSTMはRNNの長所を継承しつつ、RNNの弱点を改善し、情報を長時間メモリに格納する「メモリセル」を含むことで、RNNモデルの性能を大幅に向上させていました。LSTMモデルはRNNモデルを大きく凌駕することをみました。