论文阅读笔记样例 改良器：高效变压器 **论文小结：**作者提出了一种新的转换器模型，对体系架构进行了一系列重大改进： 1）使用可逆层以防止需要存储所有层的激活来进行反向传播； 2）使用局部敏感哈希来估计消耗时间的softmax计算。该Reformer的性能与SOTA Transformer模型相当，但内存效率更高，长序列的速度有所改变。 代码实现：