机构名称：
¥ 1.0
包括（见图 1）：(1) 数据依赖，即算法对数据的依赖，数据可能有偏差、不完整或有缺陷；(2) 学习易于操纵的统计模式；(3) 当代 DNN 的黑箱性质意味着决策如何做出并不总是很清楚，这可能会延续或隐藏偏差。这些特征共同解释了为什么漏洞可能成为对手的目标或无意中触发。事实上，主要问题在于数据集偏差，而 ML 模型往往会延续数据中固有的缺陷。在 ML 中，（训练）数据集是算法所看到的全部；数据集就是世界。9 有偏差的数据集是指 ML 模型不是训练模型使其具有在现实开放世界中概括的能力，而是变成了一个封闭的世界。9 数据集偏差的一个例子如下：如果训练数据中一头牛经常和草一起出现，那么检测草并输出“牛”可以成为最终的 ML 分类器的一个特征。10 此外，这种偏差不仅会被 ML 复制，还会通过偏差放大而恶化。11
消费者人工智能事故和缓解策略
主要关键词
相关文件推荐
