今天,使用自动化系统,包括有时被销售为“人工智能”或“ AI”的系统,在我们的日常生活中越来越普遍。我们广泛使用“自动化系统”一词来表示软件和算法流程,包括AI,这些过程用于自动化工作流程并帮助人们完成任务或做出决策。私人和公共实体使用这些系统来做出关键决定,以影响个人的权利和机会,包括公平和平等地获得工作,住房,信贷机会以及其他商品和服务。这些自动化系统通常被宣传为提供见解和突破,提高效率和成本储蓄以及现代化现有实践。尽管其中许多工具提供了促进的希望,但它们的使用也有可能永久性偏见,自动化非法歧视并产生其他有害结果。