Loading...
机构名称:
¥ 1.0

预训练的语言模型在意图检测任务上取得了明显的性能。但是,由于为每个样品分配了相同的重量,因此它们会遭受简单样本过度拟合的折磨,并且无法很好地学习复杂的样品。为了解决这个问题,我们提出了一个基于密度的动态课程学习模型。我们的模型根据其特征向量的密度定义了样本的难度水平。以这种方式,我们同时利用所有样品特征向量的总体分布。然后,我们采用动态课程学习策略,该策略对各种难度水平的样本并在培训过程中改变了样本的比例。通过上述操作,简单的样品经过良好的训练,并增强了复杂的样本。在三个开放数据集上的实验验证了提出的基于密度的算法可以显着区分简单和复杂的样品。此外,我们的模型对强基础也有明显的改进。

基于密度的动态课程学习意图检测

基于密度的动态课程学习意图检测PDF文件第1页

基于密度的动态课程学习意图检测PDF文件第2页

基于密度的动态课程学习意图检测PDF文件第3页

基于密度的动态课程学习意图检测PDF文件第4页