NATURAL LANGUAGE PROCESSING · 06
学习 LSTM 和 GRU 的结构、输入输出形式与 PyTorch 实现。
- LSTM
- GRU
本文目录
LSTM 与 GRU

import torch
import torch.nn as nn
# 1. 创建LSTM层
lstm = nn.LSTM(input_size=2,hidden_size=3,num_layers=1)
# 2. 输入值准备
input = torch.randn(2,3,2)
h0 = torch.zeros(1,3,3)
c0 = torch.zeros(1,3,3)
# 3.传入模型
output,(hn,cn) = lstm(input,(h0,c0))
print(output.shape)
print(hn.shape)
3.GRU

import torch
import torch.nn as nn
# 1.准备gru隐藏层
# 输入维度,隐藏层维度,隐藏层层数
gru = nn.GRU(2,3,1)
# 2.准备输入数据
# 输入的序列长度,批次大小,输入维度
input = torch.randn(2,3,2)
# 隐藏层层数,输出维度,批次大小
hidden = torch.randn(1,3,3)
# 3.输入gru
output,hidden = gru(input,hidden)
print(output.shape)
print(hidden.shape)