详细内容或原文请订阅后点击阅览
了解具有可解释性的注释器安全策略
安全策略定义了安全和不安全的人工智能输出的构成，指导数据注释和模型开发。然而，注释分歧普遍存在，可能源于多种原因，例如操作失败（注释者误解或错误执行任务）、政策模糊性（政策措辞留有解释空间）或价值多元化（不同注释者对安全持有不同观点）。区分这些来源很重要。例如，运营失败需要质量控制，模糊需要政策澄清，多元化需要深思熟虑……
来源:Apple机器学习研究安全策略定义了安全和不安全的人工智能输出的构成，指导数据注释和模型开发。然而，注释分歧普遍存在，可能源于多种原因，例如操作失败（注释者误解或错误执行任务）、政策模糊性（政策措辞留有解释空间）或价值多元化（不同注释者对安全持有不同观点）。区分这些来源很重要。例如，运营失败需要质量控制，模糊性需要政策澄清，多元化需要审议纳入不同的观点。然而理解注释者为何不同意是很困难的。直接询问注释者的推理成本高昂，大大增加注释负担，并且对于人类和法学硕士注释者来说都是不可靠的，因为自我报告的推理通常无法反映实际的决策过程。