Loading...
机构名称:
¥ 3.0

我们引入了中央银行语言模型 (CB-LM)——一种基于央行演讲、政策文件和研究论文的综合语料库进行训练的专用编码器语言模型。我们表明,CB-LM 在预测央行习语中的掩蔽词方面优于其基础模型。一些 CB-LM 不仅优于其基础模型,而且在根据联邦公开市场委员会 (FOMC) 声明对货币政策立场进行分类方面也超越了最先进的生成式大型语言模型 (LLM)。在更复杂的场景中,需要对与美国货币政策相关的大量新闻进行情绪分类,我们发现最大的 LLM 优于领域自适应的仅编码器模型。然而,部署如此大型的 LLM 对央行在保密性、透明度、可复制性和成本效益方面提出了巨大挑战。

CB-LM:中央银行的语言模型

CB-LM:中央银行的语言模型PDF文件第1页

CB-LM:中央银行的语言模型PDF文件第2页

CB-LM:中央银行的语言模型PDF文件第3页

CB-LM:中央银行的语言模型PDF文件第4页

CB-LM:中央银行的语言模型PDF文件第5页