Fine-Tuning Explained for Noobs (How Pretrained Models Learn New Skills)
您不需要博士学位就能理解微调。本文解释了预训练模型如何通过微调来学习新技能。
DynaMiCS: Fine-Tuning LLMs with Performance Constraints Using Dynamic Mixtures
大型语言模型的多域微调需要提高目标域的性能，同时保留受限域的性能，例如常识、指令遵循或安全评估。现有的数据混合策略依赖于固定的启发式或自适应规则，无法明确强制保留此类功能。我们提出了 DynaMiCS，一种动态混合优化器，它将多域微调作为约束优化问题。每次更新时，DynaMiCS 都会执行短的特定域探测运行，以估计局部的斜率矩阵...
On Robustness and Chain-of-Thought Consistency of RL-Finetuned VLMs
强化学习 (RL) 微调已成为增强推理密集型任务的大型语言模型 (LLM) 的关键技术，并推动其扩展到视觉语言模型 (VLM)。虽然经过 RL 调整的 VLM 改进了视觉推理基准，但它们仍然容易受到视觉基础薄弱、幻觉和过度依赖文本提示的影响。我们证明，简单的、受控的文本扰动——误导性的标题或不正确的思维链 (CoT) 痕迹——会导致鲁棒性和置信度大幅下降，并且当 CoT 一致性为……时，这些影响会更加明显。
编者注：本文是 Into the Omniverse 的一部分，该系列文章重点介绍开发人员、3D 从业者和企业如何利用 OpenUSD 和 NVIDIA Omniverse 的最新进展来转变其工作流程。视觉人工智能代理正在成为一种实用的方法，可以自动将物理世界的视频数据转化为工厂的运营智能，[...]
Embarrassingly Simple Self-Distillation Improves Code Generation
大型语言模型 (LLM) 能否在没有验证器、教师模型或强化学习的情况下仅使用其自己的原始输出来改进代码生成？我们通过简单自蒸馏（SSD）给出肯定的答案：从具有特定温度和截断配置的模型中抽取样本解决方案，然后使用标准监督微调对这些样本进行微调。 SSD 在 LiveCodeBench v6 上将 Qwen3-30B-Instruct 从 42.4% 提高到 55.3% pass@1，收益主要集中在更难的问题上，并且它在 4B、8B 和 30B 规模的 Qwen 和 Llama 模型上进行了推广，包括......
Personalizing Incremental Video Search with Hybrid Text and ID Embeddings
增量视频搜索需要在每次击键后进行高质量排名，而意图通常不明确（例如，1-3 个字符前缀）。我们提出了一个 Apple TV 搜索的个性化系统，该系统在排名时结合了互补的语义和协作信号。我们的方法学习两个项目嵌入空间：(i) 基于文本的多语言编码器 (TextEmb)，通过对比学习对共同参与三元组进行微调；(ii) 基于 ID 的协作嵌入模型 (IdEmb)，根据交互衍生的积极因素进行训练。在服务时，我们从…构建用户表示
Multilingual Semantic Retrieval for Apple Music Search
Apple Music 以数十种语言为 150 多个店面的听众提供服务，其目录每天都会增加数十万首新曲目。在这种规模下，拼写错误、音译和跨语言查询的搜索召回成为会话质量的主要驱动因素，特别是对于占唯一查询大部分的尾部查询。我们提出了一个基于 305M 参数暹罗双编码器的多语言语义检索系统，该编码器根据 GTE 多语言基础进行了微调，并具有课程安排的多目标训练。该模型通过...集成到搜索堆栈中
Building a Foundation Stack for General-Purpose Robots
本文由 X Square Robot 为您带来。大型语言模型为人工智能提供了可行的方案。在广泛的数据上预训练大型模型，一般能力随之而来。机器人技术没有这样的秘诀。机器人系统长期以来都是由单独的感知、规划和控制部件组装而成，这些部件很少能增加机器人可以从一项任务转移到另一项任务，或从一台机器转移到另一台机器的智能。实体人工智能的核心问题是找到等效的配方，而该领域尚未就它是什么达成一致。X Square Robot，一家中国实体人工智能公司，下了一个异常明确的赌注。它认为，配方是一个集成堆栈，涵盖机器人学习的数据、预测物理世界变化的世界模型，以及将感知、规划、推理和决策结合在一起以生成可执行机器人
Weblica: Scalable and Reproducible Training Environments for Visual Web Agents
网络复杂、开放且不断变化，这使得扩展可视网络代理的训练数据变得具有挑战性。现有的数据收集尝试仍然仅限于用于监督微调的离线轨迹或用于 RL 训练的少数模拟环境，因此无法捕获网络多样性。我们提出了Weblica（Web Replica），一个用于构建可复制和可扩展的Web环境的框架。我们的框架利用 1) HTTP 级缓存来捕获和重播稳定的视觉状态，同时保留交互行为，以及 2) 基于 LLM 的环境合成......
What You Bring to AI Determines the Result
Harper Carroll 凭借斯坦福大学的计算机科学背景、Meta 的机器学习工程知识以及 2023 年底在一家小型 GPU 计算初创公司的短暂工作经历进入了人工智能教育领域，她注意到几乎没有人了解如何微调开源模型。她开始写作和教学，以帮助推动 [...]
US trade deal to be on the day India secures tariff edge: Piyush Goyal
正如商务部长皮尤什·戈亚尔 (Piyush Goyal) 所言，印度即将与美国达成的贸易协定的核心是获得相对于中国和越南等竞争对手的关税优势。他指出，交易已接近完成，团队正在微调细节。戈亚尔强调，该协议的成功依赖于创造这种竞争优势，使印度能够在地区竞争对手中蓬勃发展。
Metric-Dependent Annotation Saturation for Learning from Label Distributions
当注释者对某个标签存在分歧时，分歧本身就带有信号，而捕获该信号所需的注释者数量取决于评估指标。我们根据从 ChaosNLI（一个为每个项目提供 100 个独立注释器判断的数据集）二次采样的标签分布来微调 NLI 模型，并识别与度量相关的饱和度。在我们的 3 类 NLI 设置中，熵相关性（模型是否识别哪些项目引起分歧）需要 N ≈ 20-50 个注释器才能收敛，而分布匹配（KL 散度）则达到 N ≈ 10 饱和（五个模型的改进为 87-95%……
IEEE Transactions on Games, Volume 18, Issue 2, June 2026
1) 从游戏到教育学：逃生室研究的结构化主题建模分析作者：S. López-Pernas、A. Santamaría-Urbieta、A. Gordillo、E. Barra、D. López-Fernández、M. Saqr 页数：233 - 2452) Switch、Reason 和 Revise：增强视频游戏 AI 的推理能力作者：W. Li、H. Liu、J. Lv、K. Huang、A. Song、Z. Lei 页数：246 - 2633) MobaQA：基于大语言模型微调的 MOBA 游戏预测作者：T. Nie、J. Wang、D. Hou、D. Shen、Y. Kou 页数：2
