LSTM神经网络输入输出究竟是怎样的?
创始人
2024-11-08 04:18:30
LSTM神经网络输入输出究竟是怎样的?

常规feedforward输入和输出:矩阵输入矩阵形状:(n_samples,dim_input)输出矩阵形状:(n_samples,dim_output)注:真正测试/训练的时候,网络的输入和输出就是向量而已。加入n_samples这个维度是为了可以实现一次训练多个样本,求出平均梯度来更新权重,这个叫做Mini-batchgradientdescent。如果n_samples等于1,那么这种更新方式叫做StochasticGradientDescent(SGD)。Feedforward的输入输出的本质都是单个向量。常规Recurrent(RNN/LSTM/GRU)输入和输出:张量输入张量形状:(time_steps,n_samples,dim_input)输出张量形状:(time_steps,n_samples,dim_output)注:同样是保留了Mini-batchgradientdescent的训练方式,但不同之处在于多了timestep这个维度。Recurrent的任意时刻的输入的本质还是单个向量,只不过是将不同时刻的向量按顺序输入网络。所以你可能更愿意理解为一串向量asequenceofvectors,或者是矩阵。

相关内容

热门资讯

Instagram负责人:AI... Instagram负责人亚当·莫塞里(Adam Mosseri)在一篇关于2026年平台趋势预测的长...
8亿部Gemini设备在路上!... 智东西 作者 | 王涵 编辑 | 漠影 智东西1月5日报道,今日,三星在CES 2026“First...
1万多张2元面值人民币被拍卖,... 1月5日,记者从阿里资产平台获悉,一批2元面值的人民币完成拍卖。经过44人报名竞拍、历时24小时的出...
2025 SparkS全球AI... 活动现场。主办方供图 中新网浙江新闻1月5日电(王逸飞)由杭州市人才集团、杭州市西湖区灵隐街道等多家...
AI大模型也会“骂人”了?腾讯... AI大模型也会“骂人”了? 近日,有网友在社交平台发帖称,“用元宝改代码被辱骂+乱回”,据网友表示,...