论文针对金融语言专业性强、标注数据稀缺的问题,提出以BERT为基础的金融情感模型FinBERT。方法是利用通用预训练表示,再在金融领域语料和标注任务上继续训练与微调,以降低对大规模人工标签的依赖。在两个金融情感数据集上,FinBERT的各项指标均超过当时的先进方法;即使缩小训练集并只微调部分模型,仍保持优势,展示了领域适配预训练模型的价值。
预训练语言模型
站内已收录 9 篇使用该方法的论文。
题目 · 作者 · 年份 · 发表来源 · 原始摘要 · AI导读
A Survey of Large Language Models in Finance (FinLLMs)
arXiv preprint arXiv:2402.02315
该文聚焦经济文本分析与信息表征,重点考察如何从新闻、披露、政策沟通或专业语料中构造可验证的经济信息。相关研究脉络指出:相关研究分别从模型演进和应用分类角度综述金融大模型,均指出领域专用模型在情感分析和文本分类等语言理解任务上取得了实质进展,但在精确数值计算和领域推理方面仍落后于人类专家及专用工具。本综述将其作为AI研究工具文献收录;主要结论和适用边界应以英文摘要及原始研究设计为准。
BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding
Proceedings of NAACL-HLT
该文聚焦经济文本分析与信息表征,重点考察如何从新闻、披露、政策沟通或专业语料中构造可验证的经济信息。提出BERT,确立了“预训练+微调”范式:先从大规模无标注语料中学习通用语言表示,再用少量标注数据适配具体任务。本综述将其作为AI研究工具文献收录;主要结论和适用边界应以英文摘要及原始研究设计为准。
Bloated Disclosures: Can ChatGPT Help Investors Process Information?
Chicago Booth Research Paper
该文聚焦经济文本分析与信息表征,重点考察如何从新闻、披露、政策沟通或专业语料中构造可验证的经济信息。相关研究脉络指出:近年来,LLM已用于金融情感分析、央行沟通解读和企业披露处理等任务。本综述将其作为AI研究工具文献收录;主要结论和适用边界应以英文摘要及原始研究设计为准。
BloombergGPT: A Large Language Model for Finance
arXiv preprint arXiv:2303.17564
该文聚焦经济文本分析与信息表征,重点考察如何从新闻、披露、政策沟通或专业语料中构造可验证的经济信息。构建了500亿参数的BloombergGPT,以金融语料和通用语料各占约一半的数据进行训练。本综述将其作为AI研究工具文献收录;主要结论和适用边界应以英文摘要及原始研究设计为准。
Can ChatGPT Decipher Fedspeak?
SSRN Electronic Journal
该文聚焦经济文本分析与信息表征,重点考察如何从新闻、披露、政策沟通或专业语料中构造可验证的经济信息。相关研究脉络指出:近年来,LLM已用于金融情感分析、央行沟通解读和企业披露处理等任务。本综述将其作为AI研究工具文献收录;主要结论和适用边界应以英文摘要及原始研究设计为准。
该文聚焦经济文本分析与信息表征,重点考察如何从新闻、披露、政策沟通或专业语料中构造可验证的经济信息。相关研究脉络指出:近年来,LLM已用于金融情感分析、央行沟通解读和企业披露处理等任务。本综述将其作为AI研究工具文献收录;主要结论和适用边界应以英文摘要及原始研究设计为准。
FinGPT: Open-Source Financial Large Language Models
arXiv preprint arXiv:2306.06031
该文聚焦经济文本分析与信息表征,重点考察如何从新闻、披露、政策沟通或专业语料中构造可验证的经济信息。提出的FinGPT则采用参数高效微调,对开源模型进行轻量化金融适配,推动金融LLM的开源发展。本综述将其作为AI研究工具文献收录;主要结论和适用边界应以英文摘要及原始研究设计为准。
Large Language Models in Finance: A Survey
arXiv preprint arXiv:2311.10723
该文聚焦经济文本分析与信息表征,重点考察如何从新闻、披露、政策沟通或专业语料中构造可验证的经济信息。相关研究脉络指出:相关研究分别从模型演进和应用分类角度综述金融大模型,均指出领域专用模型在情感分析和文本分类等语言理解任务上取得了实质进展,但在精确数值计算和领域推理方面仍落后于人类专家及专用工具。本综述将其作为AI研究工具文献收录;主要结论和适用边界应以英文摘要及原始研究设计为准。
