RVPO: Risk-Sensitive Alignment via Variance Regularization
当前无批评的 RLHF 方法通过算术平均值聚合多目标奖励，使它们容易受到约束忽略：一个目标的巨大成功可以在数字上抵消其他目标的关键失败（例如安全或格式），掩盖对于可靠的多目标对齐至关重要的低绩效“瓶颈”奖励。我们提出奖励方差策略优化（RVPO），这是一种风险敏感的框架，在优势聚合过程中惩罚奖励间的方差，将目标从“最大化总和”转变为“最大化一致性”。我们通过泰勒展开式展示......
IEEE Transactions on Evolutionary Computation, Volume 30, Issue 2, April 2025
1) Efficient Meta-Heuristic Approach for the Multiobjective Green p-Hub Center Routing Problem作者：E. M. Ibnoulouafi, T. Aouam, M. Oudani, M. GhoghoPages: 449 - 4632) A Multi-Fidelity Genetic Algorithm for Hyperparameter Optimization of Deep Neural Networks作者：A. R. Moya, S. Ventura 页数: 464 - 4783) 通过分
