LSTM神经网络输入输出究竟是怎样的?
创始人
2024-11-08 04:18:30
LSTM神经网络输入输出究竟是怎样的?

常规feedforward输入和输出:矩阵输入矩阵形状:(n_samples,dim_input)输出矩阵形状:(n_samples,dim_output)注:真正测试/训练的时候,网络的输入和输出就是向量而已。加入n_samples这个维度是为了可以实现一次训练多个样本,求出平均梯度来更新权重,这个叫做Mini-batchgradientdescent。如果n_samples等于1,那么这种更新方式叫做StochasticGradientDescent(SGD)。Feedforward的输入输出的本质都是单个向量。常规Recurrent(RNN/LSTM/GRU)输入和输出:张量输入张量形状:(time_steps,n_samples,dim_input)输出张量形状:(time_steps,n_samples,dim_output)注:同样是保留了Mini-batchgradientdescent的训练方式,但不同之处在于多了timestep这个维度。Recurrent的任意时刻的输入的本质还是单个向量,只不过是将不同时刻的向量按顺序输入网络。所以你可能更愿意理解为一串向量asequenceofvectors,或者是矩阵。

相关内容

热门资讯

科学与健康丨算力助推!“AI+... 新华社长沙11月22日电(记者常竣斐)在算力快速发展的背景下,众多机器人产品、大模型技术正加速布局,...
高市早苗被曝G20峰会迟到近一... ▲新京报我们视频出品(ID:wevideo) 据环球网报道,11月22日,日本首相高市早苗被曝在G2...
每周股票复盘:永信至诚(688... 截至2025年11月21日收盘,永信至诚(688244)报收于19.3元,较上周的20.46元下跌5...
超级AI增程吉利银河V900首... 新京报贝壳财经讯(记者林子)11月21日,吉利银河携旗下首款旗舰MPV——超级AI增程吉利银河V90...
中超大结局!上海海港实现三连冠... 北京时间11月22日3点半,中超联赛第30轮八场比赛同时开球,领头羊上海海港客场1比0击败大连英博,...