由于人权问题,IBM 停止开发面部识别系统

Глава IBM Арвинд Кришна направил в Конгресс США открытое письмо, в котором сообщил, что компания прекратила свой нес по распознаванию лиц “общего назначения”。 По словам Кришны, компания "решительно выступает против" использования технологий для слежки, расового профилирования и “нарушения основных прав и свобод человека”。

来源:Robogeek新闻频道(关于机器人技术的俄罗斯与世界新闻)

IBM 首席执行官 Arvind Krishna 向美国国会发出公开信,称该公司将关闭其“通用”面部识别业务。克里希纳表示,该公司“强烈反对”使用技术进行监视、种族定性和“侵犯基本人权和自由”。

相反,他建议现在是进行“全国对话”的时刻,不仅讨论应该如何使用面部识别,还讨论是否应该使用它。

IBM 负责人表示,人工智能是执法的“强大工具”,但必须通过特殊的审计测试来监控其使用是否存在偏见。他还推动使用可增强问责制和透明度的技术,例如可穿戴相机。

克里希纳的信是更广泛呼吁的一部分,呼吁国会推动加强警察问责和改革,包括最近通过的《2020 年警务正义法案》中已经包含的内容。

此举是在针对警察暴行和歧视的抗议活动中提出的。此外,在 Clearview AI(一家为执法机构提供软件的美国公司)的面部识别系统中存在偏见和隐私问题后。

一些报告表明,面部识别系统可能对有色人种和女性存在偏见,特别是当训练数据涵盖这些群体中数量相对较少的人时。虽然一些面部识别系统只能将面部与公开数据进行匹配,但有人担心该技术可用于跟踪和创建个人资料,这些个人资料可用于恐吓人们或以其他方式限制他们的实际隐私。