说明:wikitext-2数据集,是torchtext中自然语言建模数据集之一,其是从Wikipedia的优质文章和标杆文章中提取得到,运行PyTorch的教程SEQUENCE-TO-SEQUENCE MODELING WITH NN.TRANSFORMER AND TORCHTEXT时,由于网络原因无法自动下载,将本压缩包解压并放置到torchtext的root目录下就可以运行。 <wmq104> 上传 | 大小:8mb
说明:PyTorch自然语言处理部分教程翻译的ipynb:基于nn.Transformer和TorchText构建序列到序列模型。transformer_tutorial-CN.ipynb,原文是:SEQUENCE-TO-SEQUENCE MODELING WITH NN.TRANSFORMER AND TORCHTEXT。基于Wikitext-2数据集。教程在语言模型任务上训练nn.TransformerEncoder模型。语言模型任务是计算一个给定单词(或单词序列)是一个单词序列的后一个单词的概率 <wmq104> 上传 | 大小:382kb