文件名称:
minGPT:OpenAI GPT(生成式预训练变压器)培训的最小PyTorch重新实现-源码
开发工具:
文件大小: 721kb
下载次数: 0
上传时间: 2021-02-21
详细说明:minGPT
训练的PyTorch重新实现。 minGPT试图做到小巧,整洁,可解释且具有教育意义,因为大多数当前可用的工具都有些庞大。 GPT不是一个复杂的模型,该实现大约包含300行代码,包括样板代码和完全不必要的自定义因果自我注意模块。 无论如何,所有的事情就是将一个索引序列放入一个转换器块序列中,并且得出下一个索引的概率分布。 其余的复杂性只是通过批处理(跨示例和整个序列长度)而变得很聪明,因此培训是有效的。
minGPT的核心“库”(hah)是两个文件: mingpt/model.py包含实际的Transformer模型定义, mingpt/trainer.py是(与GPT无关)
(系统自动生成,下载前可以参看下载内容)
下载文件列表
相关说明
- 本站资源为会员上传分享交流与学习,如有侵犯您的权益,请联系我们删除.
- 本站是交换下载平台,提供交流渠道,下载内容来自于网络,除下载问题外,其它问题请自行百度。
- 本站已设置防盗链,请勿用迅雷、QQ旋风等多线程下载软件下载资源,下载后用WinRAR最新版进行解压.
- 如果您发现内容无法下载,请稍后再次尝试;或者到消费记录里找到下载记录反馈给我们.
- 下载后发现下载的内容跟说明不相乎,请到消费记录里找到下载记录反馈给我们,经确认后退回积分.
- 如下载前有疑问,可以通过点击"提供者"的名字,查看对方的联系方式,联系对方咨询.