机构名称：
¥ 1.0
一家公共部门机构建立了一个人工智能驱动的福利欺诈检测系统，但该系统得出的结果不准确、随机且不公平。模型设计和实施的根本缺陷之一是需要侵入性、不相关、平庸和主观的输入。例如，它使用关系状态、持续时间和频率来为某些申请人附加高风险分数，但不为其他申请人附加。该模型还在不同输入之间建立了不合理的相关性，从而破坏了决策的一致性。最后，决策过程缺乏功能性上诉流程（一项关键的安全功能）。因此，该算法在没有任何证据或令人信服的理由的情况下，不成比例地为最需要福利的人分配了高欺诈风险分数。被标记的合格申请人受到了侵入性和污名化的调查。他们在获得急需的福利时遭遇了不必要的延误。
人工智能新世界中的隐私
主要关键词
相关文件推荐
