LSTM神经网络输入输出究竟是怎样的?
创始人
2024-11-08 04:18:30
LSTM神经网络输入输出究竟是怎样的?

常规feedforward输入和输出:矩阵输入矩阵形状:(n_samples,dim_input)输出矩阵形状:(n_samples,dim_output)注:真正测试/训练的时候,网络的输入和输出就是向量而已。加入n_samples这个维度是为了可以实现一次训练多个样本,求出平均梯度来更新权重,这个叫做Mini-batchgradientdescent。如果n_samples等于1,那么这种更新方式叫做StochasticGradientDescent(SGD)。Feedforward的输入输出的本质都是单个向量。常规Recurrent(RNN/LSTM/GRU)输入和输出:张量输入张量形状:(time_steps,n_samples,dim_input)输出张量形状:(time_steps,n_samples,dim_output)注:同样是保留了Mini-batchgradientdescent的训练方式,但不同之处在于多了timestep这个维度。Recurrent的任意时刻的输入的本质还是单个向量,只不过是将不同时刻的向量按顺序输入网络。所以你可能更愿意理解为一串向量asequenceofvectors,或者是矩阵。

相关内容

热门资讯

AI应用概念股震荡走高 利欧股... 观点网讯:2月12日,AI应用概念股震荡走高,利欧股份涨停,昆仑万维涨超10%,蓝色光标涨超5%,万...
AI应用端局部回暖,利欧股份涨... 钛媒体App 2月12日消息,午后AI应用端局部回暖,利欧股份涨停,此前正和生态涨停,昆仑万维涨超1...
QQ上线“脑洞秀”AI社交新功... 新榜讯 QQ官号正式宣布“QQ脑洞秀”功能全新登场。用户仅需上传一张照片,便可借助AI生成专属3D虚...
百度千帆推出AI编码订阅服务C... 钛媒体App 2月12日消息,昨日,百度千帆正式宣布推出AI编码订阅服务Coding Plan,覆盖...
达沃斯论坛:AI成为商界焦点,... 世界经济论坛近期在瑞士达沃斯结束了又一次名流云集的年度会议,对AI呈现出分化的态度。 高知特技术公司...