小语言模型的偏好一致蒸馏___XiaoMi-AI 助力科研平台

小语言模型的偏好一致蒸馏

可下载资源数量

已经购买

下载数量：1

单价	0 1.0
Coupon	100% 0%
Total	0 1.0

点击下载点击购买并下载

点击购买，资源将自动在新窗口打开.

机构名称：

小语言模型的偏好一致蒸馏

¥ 1.0

热度

与SLMS相比，LLMS与人类偏好相比表现出Supe-050 Rior对齐（OpenAI，051 2024; Georgiev et al。，2024）。因此，ex-052 iSting Works llms作为教师提炼053偏好知识（Bai等人，054 2022; Cui等。，2023; Tunstall等。，2024; Wang 055等。，2024; Yuan等。，2024）。所有这些作品056模型在LLM中的模型偏好知识比较了成对响应。例如，Bai 058等。（2022）使用对059培训奖励模型的教师注释的响应，该奖励模型通过加强学习指导学生060。同样，Tunstall 061等。（2024）采用教师模型以偏爱-062 ence注释，但使用蒸馏的直接优先优化 - 064（Rafailov等人）直接优化了学生063模型（Rafailov等人。，2023）在注释数据集上。065然而，这些066“教师通知者”提供的监督信号采用订购067

添加pdf代下载 VIP点击下载文件