算法系统通常基于人工智能 (AI) 2，越来越多地被政府和公司用来做出或推荐对个人、组织和社会具有深远影响的决策。就业、信贷、教育机会、医疗保健甚至刑事司法方面的许多决策都是由机器做出的，通常未经人类进一步实质性审查。虽然算法系统有望使社会更加公平、包容和高效，但这些结果并不会自动从自动化中产生。与人类做出的决策一样，机器做出的决策也可能无法尊重个人的权利，并导致有害的歧视和其他负面影响。因此，算法系统必须完全遵守既定的法律、道德和科学规范，并且其使用风险必须与正在解决的具体问题成正比。