1.Moveworks 的 ML 模型主要基于从生产使用中采样的数据进行训练。使用一种称为集体学习的技术,我们的许多模型都基于从多个客户中提取的匿名数据进行训练,从而使它们能够了解来自具有不同背景和特征的员工的请求的通用结构。2.我们注释这些数据时不会向注释者公开任何用户特征:注释界面中不包含任何姓名、照片或其他类别识别特征。例如,在注释请求的意图时,注释者只能看到消息的文本和组织的名称。3.在训练期间,我们不会在模型学习从中获取信号的输入中包含受保护的属性(例如性别或种族)。4.对于发送给我们机器人的绝大多数请求,人类注释者很难(甚至不可能)从请求文本中猜测知识工作者的任何受保护类别 - 而对于我们的 ML 模型来说则更难。这意味着模型不太可能学习与受保护类相关的中间表示。