领域微调

论文针对金融语言专业性强、标注数据稀缺的问题，提出以BERT为基础的金融情感模型FinBERT。方法是利用通用预训练表示，再在金融领域语料和标注任务上继续训练与微调，以降低对大规模人工标签的依赖。在两个金融情感数据集上，FinBERT的各项指标均超过当时的先进方法；即使缩小训练集并只微调部分模型，仍保持优势，展示了领域适配预训练模型的价值。