用bert预训练模型,
实现了MLM预测,
NSP预测
文本分类
在一个3000条的样本上,1500条是负样本,1500条是样本,选取1250条正样本和1250条负样本做测试集fine-tune,3个epoch后,在剩下的500条样本上预测,准确率达到94.4%。
--by lgb
| Name | Name | Last commit date | ||
|---|---|---|---|---|
用bert预训练模型,
实现了MLM预测,
NSP预测
文本分类
在一个3000条的样本上,1500条是负样本,1500条是样本,选取1250条正样本和1250条负样本做测试集fine-tune,3个epoch后,在剩下的500条样本上预测,准确率达到94.4%。
--by lgb