Loading...
机构名称:
¥ 1.0

我们介绍了一种新型的持续训练方法,即M elt(在E RIA L S-WARE继续前降雨中),该方法专门设计用于有效地适应材料科学的预训练的语言模型(PLM)。与以前仅着眼于构建领域特异性语料库的适应策略不同,鉴于材料科学语料库具有与其他领域不同的特征,因此全面考虑了语料库和培训策略。为此,我们首先通过构建语义图来从科学语料库中构建一个综合的材料知识库。杠杆作用,我们将课程整合到适应过程中,该过程始于熟悉和广义的概念,并逐渐朝着更加特殊的术语迈进。我们进行了各种基准测试的广泛实验,以验证M ELT的效率和一般性。一项综合评估令人信服地支持M ELT的强度,与现有的持续预训练方法相比,表现出了卓越的表现。对MELT的深入分析还表明,与现有的适应方法相比,MELT可以有效地代表材料实体,从而高出了其在广泛的材料科学1中的广泛适用性。

融化:材料意识到...

融化:材料意识到...PDF文件第1页

融化:材料意识到...PDF文件第2页

融化:材料意识到...PDF文件第3页

融化:材料意识到...PDF文件第4页

融化:材料意识到...PDF文件第5页