专家系统梯度下降式训练:可防御人工智能技术的开发 Jeremy Straub 计算机科学系 北达科他州立大学 1320 Albrecht Blvd., Room 258 Fargo, ND 58108 p:+1 (701) 231-8196 f:+1 (701) 231-8255 e:jeremy.straub@ndsu.edu 摘要 人工智能系统被设计成能够从呈现给它们的数据中学习,并在整个社会中使用。这些系统用于筛选贷款申请人、为刑事被告人提供量刑建议、扫描社交媒体帖子中是否存在禁止内容等。由于这些系统没有为其复杂的学习相关网络赋予意义,因此它们可能会学习不等同于因果关系的关联,从而做出非最优和站不住脚的决策。除了做出次优决策之外,这些系统还可能通过学习违反反歧视和其他有关哪些因素可用于不同类型决策的法律的相关性,为其设计者和操作员带来法律责任。本文介绍了一种机器学习专家系统的使用,该系统是使用赋予含义的节点(事实)和相关性(规则)开发的。在不同条件下考虑和评估了多种潜在的实现,包括不同的网络错误和增强级别以及不同的训练级别。将这些系统的性能与随机和完全连接的网络进行了比较。关键词:专家系统、梯度下降、可防御人工智能、机器学习、训练 1. 简介
主要关键词