答えが0秒で沢山えられます。。。。反省。 Wikipediaによると (両モデルとも、)Toronto BookCorpus[12]（8億語）と、英語版Wikipedia（25億語）で事前訓練された。 引用元： https://ja.wikipedia.org/wiki/BERT_(%E8%A8%80%E8%AA%9E%E3%83%A2%E3%83%87%E3%8…