RoBERTa-日语 日语BERT预训练模型 RoBERTaとは， ，BERTの改良版です。モデル构造そのものはオリジナルのBERTと同じで，学习手法に工夫があります。 のプロジェクトは，。 RoBERTa（改良BERT）日本语モデル 新 Tensorflow 1.x / 2.x両対応しました RoBERTa（改良BERT）の日本语版です 学习済みモデルについて 学习させたコーパスについて スポンサーシップについて 去做 ✓smallモデルの公开（2020/12/6） ✓baseモデルの公开（2