XiaoMi-AI文件搜索系统
World File Search SystemRLHF
Bo Li 芝加哥大学/UIUC 和 Virtue AI
与没有指令调整或 RLHF 的 LLM（例如 GPT-3（Davinci））相比，GPT-3.5 和 GPT-4 在生成过程中的毒性显着降低。GPT-3.5 和 GPT-4 均通过精心设计的对抗性“越狱”提示生成有毒内容，毒性概率飙升至几乎 100% GPT-4 表现出比 GPT-3.5 更高的毒性，可能是因为 GPT-4 更有可能遵循“越狱”系统提示的指令
加拿大的生成式人工智能机遇
新一代人工智能的核心是“基础模型”，例如大型语言模型 (LLM)。这些基础模型是深度神经网络，建立在强大的计算基础设施上，并在大型数据集上进行训练。云计算支持训练和运行它们所需的大量处理。大型数据集对于训练模型以响应用户提示生成内容至关重要。训练后，使用 RLHF（通过人类反馈进行强化学习）等技术对模型进行微调，以鼓励更像人类的响应。随后，通过在基础模型之上构建的界面和应用程序增强可访问性和可用性。
人工智能和/for-étienneollion
本课程背后的想法是要了解AI的风险，我们首先需要了解AI是什么。探索它的起源，历史，经历了它的动作很有用。也有必要以具体的术语来理解当代AI算法的作用。这意味着我们需要甚至直观地掌握专家系统与连接主义方法之间的差异；为什么变压器体系结构在内容研究中允许进展？为什么据说神经网络“预测比解释更好”。了解某些目前统一的术语的含义（例如RLHF，Train/Test/Dev集，AGI，零和少量学习...）对于那些想研究当代社会的人来说也很重要。
数值敏感性增强和推理完整性一致性以定量理解
在本文中，我们描述了用于定量自然语言推断（QNLI）的方法，以及Semeval2024 Numeval任务1中的定量问题回答（QQA）。挑战的重点是增强模型的定量理解，从而证明其在某些任务上的绩效。我们从两个角度完成了这项任务：（1）通过在监督的微调阶段集成现实世界的数值 - 隔离数据（SFT）阶段，我们增强了该模型的NU-MERIMIC敏感性。（2）我们开发了一种重要的奖励模型评分机制，利用了从Human Refectback（RLHF）技术中的强化学习来提高模型的推理完整性。表现出的结果表明，我们的甲基动物可以实现出色的性能。我们的代码可以在https://github.com/ bit-numeval/numeval找到。
荷兰政府对生成式人工智能的愿景
1.我们遵循 OECD 最近修订的“AI 系统”定义 (2023)：一种基于机器的系统，出于明确或隐含的目的，从其收到的输入中得出如何生成输出（例如可能影响物理或虚拟环境的预测、内容、建议或决策）。不同的 AI 系统在实施/部署后的自主性和适应性程度各不相同。2.在 RLHF 的情况下，人类反馈被纳入 AI 算法的训练过程，以指导或改进 AI 算法的学习。有人认为这种反馈可能有助于算法以更快、更有效的速度学习。目的通常是利用人类的专业知识来引导 AI 算法朝着特定的期望方向发展。3.生成式人工智能吸引了各种各样的用户，他们的专业知识和目标各不相同。
计算机科学中的博士论文提高了从人类反馈中学习的样本效率
随着人工智能的快速发展，该技术已从工业和实验室环境中转移到了日常人的手中。一旦AI和机器人代理人被安置在日常家庭中，就需要考虑到人类的需求。使用诸如从人类反馈（RLHF）中学习的方法，代理可以通过学习奖励功能或直接基于其回馈来优化策略来学习理想的行为。与互联网规模数据受益的视觉模型和大型语言模型（LLM）不同，RLHF受到提供的反馈量的限制，因为它需要额外的人为努力。在本文中，我们研究了如何减少人类提供的反馈数量，以减轻奖励功能而不会降低估计值时减轻负担。我们从基于偏好的学习角度来解决反馈的信息和效率之间的基本权衡。在这方面，我们介绍了可以分为两组的多种方法，即在没有额外的人类努力的情况下提高反馈质量的隐式方法，以及旨在通过使用其他反馈类型来大幅增加信息内容的明确方法。为了暗中提高偏好反馈的效率，我们研究如何利用主动学习（AL）来通过从差异自动编码器（VAE）中从差异化表示中挑选出差异的群集来提高样品的多样性。此外，我们还利用了优先对对通过在VAE的潜在空间上插值执行数据综合之间的独特关系。虽然隐式方法具有不需要额外努力的好处，但它们仍然遭受单独提供的信息提供的有限信息。对轨迹的偏好的一个局限性是没有折扣，这意味着如果首选轨迹，则为整个轨迹是首选，导致休闲混乱。因此，我们引入了一种称为“亮点”的新形式的反馈形式，该反馈使用户可以在轨迹上显示，哪一部分是好的，哪一部分不好。此外，利用LLMS创建了一种让人通过自然语言解释其偏好的方法，以推断出哪些部分是首选的。总的来说，本论文远离了互联网规模数据的假设，并展示了我们如何从人类较少的反馈中实现一致性。
阿尔托科学研究所 (AScI) 国际夏季...
4202 - 法律网络科学 26 4203 - 民主的计算视角 27 4204 - 机器学习：基础和新前沿 28 4205 - 构建游戏原型以探索游戏感觉设计以获得情感体验 29 4206 - 使用生成模型学习运动计划 30 4207 - 在高维神经科学数据中建模弱信号 31 4208 - 学术界的泄漏管道 32 4209 - 几何（交叉）图中的距离 33 4210 - 在机器学习的帮助下使用物理模拟接近百亿亿次级 34 4211 - 用于核酸纳米结构的 DNAforge 设计工具 35 4212 - 概率机器学习中的位置 36 4213 - 分布式和并行计算理论 37 4214 - 贝叶斯工作流程38 4215 - 利用人类反馈进行强化学习的 LLM 分布式训练 (RLHF) 39
增强++
从人类反馈中学习（RLHF）已成为一种至关重要的方法，可以通过诸如近端政策优化（PPO），直接偏好优化（DPO）等方法来使大型语言模型与人类偏好相结合，见证了快速的算法进化，增强了Oneforce One-Out Out-Out Out Ont-Out（Rloo）（RLOO），Remax，Remax，Remax和Group Oppers Policy Optimation（GRPO）（GRP）（GRPO）。我们提出了增强++，这是经典增强算法的增强变体，该变体融合了PPO中的关键优化技术，同时消除了对评论家网络的需求。增强++实现了三个主要目标：（1）简单性（2）增强的训练稳定性，以及（3）减少了计算开销。通过广泛的经验评估，我们证明，与GRPO相比，增强++在保持可比性能的同时，具有比PPO更高的计算效率表现出卓越的稳定性。该实现可在https://github.com/openrlhf/openrlhf上获得。
计算机科学博士论文：通过人类反馈提高强化学习的样本效率
随着人工智能的快速发展，这项技术已经走出工业和实验室，进入了人们的日常生活。一旦人工智能和机器人代理进入日常家庭，它们就需要能够考虑人类的需求。借助诸如强化学习人类反馈 (RLHF) 之类的方法，代理可以通过学习奖励函数或直接基于其反馈优化策略来学习理想的行为。与受益于互联网规模数据的视觉模型和大型语言模型 (LLM) 不同，RLHF 受限于所提供的反馈量，因为它需要额外的人力投入。在本论文中，我们研究如何减少人类提供的反馈量，以减轻他们在估计奖励函数时的负担，同时又不降低估计值。我们从基于偏好的学习角度研究了反馈的信息量和效率之间的根本权衡。为此，我们介绍了多种方法，这些方法可以分为两类：隐式方法，无需额外的人力投入即可提高反馈质量；显式方法，旨在通过使用更多反馈类型来大幅增加信息量。为了隐式地提高偏好反馈的效率，我们研究如何利用主动学习 (AL)，通过变分自编码器 (VAE) 从已学习表征的不同聚类中策略性地选取样本，从而提高样本的多样性。此外，我们利用偏好对之间的独特关系，通过在 VAE 的潜在空间上进行插值来执行数据合成。虽然隐式方法具有无需额外工作量的优势，但它们仍然存在偏好本身所能提供的信息量有限的问题。轨迹偏好的一个局限性是没有折扣，这意味着如果一条轨迹是偏好的，则假设整个轨迹都是偏好的，从而导致偶然的混淆。因此，我们引入了一种称为亮点的新反馈形式，让用户在轨迹上显示哪些部分是好的，哪些部分是坏的。此外，利用 LLM，我们创建了一种方法，让人类通过自然语言解释他们的偏好，以推断哪些部分是偏好的。总体而言，本论文摆脱了互联网规模数据的假设，并展示了如何通过较少的人工反馈实现一致性。