性能损失关键词检索结果

DSO:直接转向优化以减轻偏差

DSO: Direct Steering Optimization for Bias Mitigation

生成模型通常用于代表用户做出决策,例如视觉语言模型 (VLM) 可以识别房间中的哪个人是医生,以帮助视障人士。然而,VLM 的决策受到输入中人们所感知的人口统计特征的影响,这可能会导致有偏见的结果,例如未能将女性识别为医生。此外,当减少偏差导致性能损失时,用户可能对平衡偏差缓解与整体模型功能有不同的需求,这凸显了对能够实现可控偏差减少的方法的需求……