english GLUE数据集，Bert等一些论文中进行评测基准用的数据集，因为原数据太大，所以放到了网盘里面.
因为这些GLUE的官网在国外，而GitHub上面的下载地址也在国外，所以你过你可以翻出去的话，下载不成问题，如果翻不出去的话，你可以用我上传的链接下载。
数据内容见介绍：http://www.xuwei.io/2018/11/30/%E6%96%87%E6%9C%AC%E5%88%86%E7%B1%BB-glue%E6%95%B0%E6%8D%AE%E9%9B%86%E4%BB%
关于微调BERT的稳定性：误解，解释和强大的基准
Marius Mosbach，Maksym Andriushchenko，Dietrich Klakow
萨尔大学和EPFL
该存储库包含有关“。它是（v2.5.1）的分支。
抽象的
微调经过预训练的基于变压器的语言模型，例如BERT，已成为控制各种NLP基准排行榜的一种普遍做法。尽管微调模型具有强大的经验性能，微调还是一个不稳定的过程：使用多个随机种子训练同一模型可能会导致任务性能产生较大差异。先前的文献（Devlin等人，2019; Lee
文本语料库分析
词汇探究可产生很少的统计数据，例如常见单词的数量，数据集的唯一单词以及查找出现在五种，四种，三种，两种和两种中的单词所占的百分比，包括和不包括停用词列表。 Sentence Vector Exploration（句子向量探究）基于两种句子向量表示方法的捕获能力比较它们的能力。 其中包括Spark ML库使用基于TDIDF的矢量表示以及Google发布的预训练语句编码器。
设置环境
创建EMR集群
You are suggested to download the MNLI dat
