METHOD

预训练语言模型

站内已收录 9 篇使用该方法的论文。

显示方式
预训练语言模型9 条记录

题目 · 作者 · 年份 · 发表来源 · 原始摘要 · AI导读

PAPER RECORDABSTRACT VERIFIED
AI READING NOTE

论文针对金融语言专业性强、标注数据稀缺的问题,提出以BERT为基础的金融情感模型FinBERT。方法是利用通用预训练表示,再在金融领域语料和标注任务上继续训练与微调,以降低对大规模人工标签的依赖。在两个金融情感数据集上,FinBERT的各项指标均超过当时的先进方法;即使缩小训练集并只微调部分模型,仍保持优势,展示了领域适配预训练模型的价值。

PAPER RECORDABSTRACT VERIFIED

A Survey of Large Language Models in Finance (FinLLMs)

Jean Lee · Nicholas Stevens · Soyeon Caren Han · Minseok Song

arXiv preprint arXiv:2402.02315

AI READING NOTE

该文聚焦经济文本分析与信息表征,重点考察如何从新闻、披露、政策沟通或专业语料中构造可验证的经济信息。相关研究脉络指出:相关研究分别从模型演进和应用分类角度综述金融大模型,均指出领域专用模型在情感分析和文本分类等语言理解任务上取得了实质进展,但在精确数值计算和领域推理方面仍落后于人类专家及专用工具。本综述将其作为AI研究工具文献收录;主要结论和适用边界应以英文摘要及原始研究设计为准。

PAPER RECORDABSTRACT VERIFIED

BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding

Jacob Devlin · Ming-Wei Chang · Kenton Lee · Kristina Toutanova

Proceedings of NAACL-HLT

AI READING NOTE

该文聚焦经济文本分析与信息表征,重点考察如何从新闻、披露、政策沟通或专业语料中构造可验证的经济信息。提出BERT,确立了“预训练+微调”范式:先从大规模无标注语料中学习通用语言表示,再用少量标注数据适配具体任务。本综述将其作为AI研究工具文献收录;主要结论和适用边界应以英文摘要及原始研究设计为准。

PAPER RECORDABSTRACT VERIFIED

Bloated Disclosures: Can ChatGPT Help Investors Process Information?

Alex G. Kim · Maximilian Muhn · Valeri Nikolaev

Chicago Booth Research Paper

AI READING NOTE

该文聚焦经济文本分析与信息表征,重点考察如何从新闻、披露、政策沟通或专业语料中构造可验证的经济信息。相关研究脉络指出:近年来,LLM已用于金融情感分析、央行沟通解读和企业披露处理等任务。本综述将其作为AI研究工具文献收录;主要结论和适用边界应以英文摘要及原始研究设计为准。

PAPER RECORDABSTRACT VERIFIED

BloombergGPT: A Large Language Model for Finance

Shijie Wu · Ozan Irsoy · Steven Lu · Vitaliy Dabravolski · Mark Dredze · Sebastian Gehrmann · Prabhanjan Kambadur · David Rosenberg · Gideon Mann

arXiv preprint arXiv:2303.17564

AI READING NOTE

该文聚焦经济文本分析与信息表征,重点考察如何从新闻、披露、政策沟通或专业语料中构造可验证的经济信息。构建了500亿参数的BloombergGPT,以金融语料和通用语料各占约一半的数据进行训练。本综述将其作为AI研究工具文献收录;主要结论和适用边界应以英文摘要及原始研究设计为准。

PAPER RECORDABSTRACT VERIFIED

Can ChatGPT Decipher Fedspeak?

Adam L. Hansen · Sophia Kazinnik

SSRN Electronic Journal

AI READING NOTE

该文聚焦经济文本分析与信息表征,重点考察如何从新闻、披露、政策沟通或专业语料中构造可验证的经济信息。相关研究脉络指出:近年来,LLM已用于金融情感分析、央行沟通解读和企业披露处理等任务。本综述将其作为AI研究工具文献收录;主要结论和适用边界应以英文摘要及原始研究设计为准。

PAPER RECORDABSTRACT VERIFIED
AI READING NOTE

该文聚焦经济文本分析与信息表征,重点考察如何从新闻、披露、政策沟通或专业语料中构造可验证的经济信息。相关研究脉络指出:近年来,LLM已用于金融情感分析、央行沟通解读和企业披露处理等任务。本综述将其作为AI研究工具文献收录;主要结论和适用边界应以英文摘要及原始研究设计为准。

PAPER RECORDABSTRACT VERIFIED

FinGPT: Open-Source Financial Large Language Models

Hongyang Yang · Xiao-Yang Liu · Christina Dan Wang

arXiv preprint arXiv:2306.06031

AI READING NOTE

该文聚焦经济文本分析与信息表征,重点考察如何从新闻、披露、政策沟通或专业语料中构造可验证的经济信息。提出的FinGPT则采用参数高效微调,对开源模型进行轻量化金融适配,推动金融LLM的开源发展。本综述将其作为AI研究工具文献收录;主要结论和适用边界应以英文摘要及原始研究设计为准。

PAPER RECORDABSTRACT VERIFIED

Large Language Models in Finance: A Survey

Yinheng Li · Shaofei Wang · Han Ding · Hang Chen

arXiv preprint arXiv:2311.10723

AI READING NOTE

该文聚焦经济文本分析与信息表征,重点考察如何从新闻、披露、政策沟通或专业语料中构造可验证的经济信息。相关研究脉络指出:相关研究分别从模型演进和应用分类角度综述金融大模型,均指出领域专用模型在情感分析和文本分类等语言理解任务上取得了实质进展,但在精确数值计算和领域推理方面仍落后于人类专家及专用工具。本综述将其作为AI研究工具文献收录;主要结论和适用边界应以英文摘要及原始研究设计为准。