Notes on Section 9.3

bobown_yao
  2026-03-02 2026-03-02 Created   2026-03-08 19:46:44 2026-03-08 19:46:44 Updated      189 Words  1 Mins

本节主要是通过引入深度循环网络来解决单层RNN灵活度不够的问题

在CNN网络中，通过多层堆叠提高了模型的泛化性能。这个可以迁移到RNN中，即我们使用多个序列的隐藏参数

Image: image_001

这个相比直接增加参数规模的好处在于可以对不同等级的特征进行分类，同时具有更强的非线性表达能力

在这个信息的流向图中，隐藏状态收集的信息具有区别

Image: image_002

这个模块可以和GRU（或者是LSTM）结合起来使用，具体方案就是替换单元

Image: image_003

我们可以发现这样一个单元是完全可以替换的

  • Title: Notes on Section 9.3
  • Author: bobown_yao
  • Created at : 2026-03-02 00:00:00
  • Updated at : 2026-03-08 19:46:44
  • Link: https://bobownyao.github.io/2026/03/02/Notes-on-Section-9-3/
  • License: All Rights Reserved © bobown_yao
On this page
Notes on Section 9.3