更改

LSTM通过巧妙的结构设计有效解决了RNN的上述问题，其核心在于细胞状态（Cell）的引入（如下图）：细胞状态对应A中最上方的链式结构，负责保存长期信息。

三个σ表示sigmoid函数；由于sigmoid函数的输出范围为[0,1]，其输出向量u和其它向量v点乘的结果等效于v中的每个元素受到u中对应元素的门限作用，所以这三个sigmoid的输出向量在LSTM中被定义为门限，从左至右依次为：忘记门，输入门，输出门。