6.5 长程依赖问题

  • 循环神经网络在学习过程中的主要问题是由于梯度消失或爆炸问题,很难建模长时间间隔(Long Range)的状态之间的依赖关系.
    图片说明
    图片说明

    6.5.1 改进方案

    图片说明
    图片说明

图片说明