LSTM神经网络输入输出究竟是怎样的?
创始人
2024-11-08 04:18:30
LSTM神经网络输入输出究竟是怎样的?

常规feedforward输入和输出:矩阵输入矩阵形状:(n_samples,dim_input)输出矩阵形状:(n_samples,dim_output)注:真正测试/训练的时候,网络的输入和输出就是向量而已。加入n_samples这个维度是为了可以实现一次训练多个样本,求出平均梯度来更新权重,这个叫做Mini-batchgradientdescent。如果n_samples等于1,那么这种更新方式叫做StochasticGradientDescent(SGD)。Feedforward的输入输出的本质都是单个向量。常规Recurrent(RNN/LSTM/GRU)输入和输出:张量输入张量形状:(time_steps,n_samples,dim_input)输出张量形状:(time_steps,n_samples,dim_output)注:同样是保留了Mini-batchgradientdescent的训练方式,但不同之处在于多了timestep这个维度。Recurrent的任意时刻的输入的本质还是单个向量,只不过是将不同时刻的向量按顺序输入网络。所以你可能更愿意理解为一串向量asequenceofvectors,或者是矩阵。

相关内容

热门资讯

南天信息新注册《资产公司核心业... 证券之星消息,近日南天信息(000948)新注册了3个项目的软件著作权,包括《资产公司核心业务AI助...
张凌赫钟爱联想moto X70... 作者:龚进辉 今晚,在联想天禧AI一体多端秋季新品超能之夜上,联想一口气带来了联想moto X70 ...
我们与恶的距离,只隔着一个谄媚... 文 | 脑极体 一位前科技高管在AI的“安慰”下走向弑母的悲剧;一位精神病患者在社交媒体上发起心理...
AI不是万能药!对话唐彬:支付... 支付行业正迎来一场从“支付工具”到“交易服务”的结构性变革。 一边是国内市场“内卷”加剧,企业比拼数...
联想AI眼镜V1发布:38克轻... IT之家 10 月 31 日消息,联想 AI 眼镜 V1 现已发布,主打 38 克轻量设计,搭载树脂...