亚马逊托管的英国军事招募 AI 工具“存在数据泄露风险”
英国国防部称风险低，供应商已采取“强有力的保障措施”英国政府评估显示，亚马逊托管的旨在促进英国国防部招聘的人工智能工具使国防人员面临被公开识别的风险。自动化系统用于改进国防招聘广告的起草，并通过改进包容性语言来吸引更多不同类型的候选人，这些数据包括军事人员的姓名、职位和电子邮件，由亚马逊存储在美国。根据今天首次发布的政府人工智能系统详细介绍文件，这意味着“数据泄露可能会产生令人担忧的后果，即国防人员的身份识别”。教师基于 Open AI 强大的大型语言模型 GPT-4o 使用的人工智能课程规划工具可能会生成不适当的课程材料。人工智能节省了教师的时间，并能以一种原本不可能实现的方式快速个性化课程计划。一个聊天机器人出现“幻觉”，被部署来回答有关家庭法庭儿童福利的问题。然而，它还提供全天候信息，并减少需要与人工代理交谈的人的排队时间。英国财政部的新政策引擎使用机器学习来模拟税收和福利变化，其“准确度高于现有方法”，但存在“代码操作错误”和“数据输入不正确”的情况。“人类推理能力的退化”如果
来源:The Guardian | Educational News据政府评估，由亚马逊托管的旨在促进英国国防部招聘的人工智能工具使国防人员面临被公开识别的风险。
政府评估自动化 Textio 系统使用的数据用于改进国防招聘广告的起草，并通过改进包容性语言来吸引更多不同类型的候选人，包括军事人员的姓名、角色和电子邮件，并使用美国的亚马逊网络服务 (AWS) 存储。根据今天首次发布的详细介绍政府 AI 系统的文件，这意味着“数据泄露可能会产生令人担忧的后果，即国防人员的身份识别”。
亚马逊风险被判定为“低”，国防部表示，供应商已经采取了“强有力的保障措施”，国防部网站上列出的供应商包括 Textio、AWS 和威胁检测服务 Amazon GuardDuty。 （亚马逊称 GuardDuty 不是供应商，而是 AWS 的产品。）
但这只是政府在为提高中央政府使用算法的透明度而发布的一系列文件中承认的在公共部门使用 AI 工具的若干风险之一。
一批文件关于算法如何工作的官方声明强调，已经采取了缓解措施和保障措施来应对风险，因为部长们正在推动使用 AI 来提高英国的经济生产力，并用技术大臣彼得·凯尔周二的话来说，“将公共服务从边缘拉回来”。
本周有报道称，新任内阁大臣克里斯·沃马尔德 (Chris Wormald) 告诉公务员，首相希望“重新调整政府的工作方式”，要求官员“利用技术提供的重大机遇”。
已告知公务员目前中央政府人工智能中确定的其他风险和好处包括：
人工智能课程规划工具 部署聊天机器人回答有关儿童福利的问题 PolicyEngine 系统 提示注入