2。到2024年9月,合并技术服务(也称为华盛顿技术解决方案(WATECH))与内阁机构合作,应向州长提交一份报告,以确定与代理机构运营和目标有关的潜在生产AI计划。该报告应评估将生成AI整合到代理运营和服务中的可行性,收益和挑战。该报告还必须包括沃特克(Watech)建立基础设施的计划和时间表,以开展涉及生成AI技术的项目的飞行员,包括批准的环境来测试此类项目。3。到2024年9月,Watech与企业服务部(DES)合作,应针对公共部门采购,使用和持续监视使用生成AI技术的使用初步指南。该准则应基于白宫蓝图的指导,以及国家科学技术研究所的AL风险管理框架,并解决安全性和有效性,算法歧视,数据隐私和网络安全。这些准则应包括一项要求,任何向代理商提供高风险生成AI系统的供应商证明了供应商已实施了与国家标准和技术人工智能风险管理框架一致的AI治理计划。Watech和des应通过在相关机构的网站上发布该准则。
来自:William S. Kehoe,主任兼州首席信息官主题:对IT项目监督的年度独立建议Washington Technology Solutions(WATECH)很高兴地通知您,它已经完成了对IT项目报告的年度独立建议,该建议是根据2024年颁布的补充运营预算(ESSB 5950,SEC.153(1)(c))。该报告重点介绍了项目管理合作伙伴的独立观察和建议,并概述了促进华盛顿州IT计划的协作,驱动的项目管理环境的战略愿景。请与Bill Kehoe,Watech总监兼州首席信息官(360)407-9020或Bill.kehoe@watech.wa.gov联系。附件CC:参议院伯纳德·迪恩(Bernard Dean)秘书莎拉·班尼斯特
• 识别高风险人工智能系统:识别高风险系统需要新的实践。这些新实践应尽可能融入现有的风险工作流程。这种方法有助于减少冗余,加快实施速度,并改善审查人工智能系统所必需的协作。WaTech 管理着多个风险流程,这些流程可用于整合新的人工智能风险实践,包括信息安全风险评估、安全设计审查、隐私阈值分析和隐私影响评估。这些流程非常适合在系统首次实施时评估预期的系统用途,应进行修改,以要求机构在必要的安全或隐私审查期间记录人工智能系统风险级别。WaTech 已制定指南,帮助机构确定风险级别。当识别出高风险系统时,应在实施前完成完整的风险评估。
o 更易于访问的信息:借助 GenAI,州政府机构可以更好地理解数据并更轻松地访问数据,从而为机构工作人员和州居民提供更易于访问、更易理解的信息。o 改善居民服务:GenAI 驱动的聊天机器人和虚拟助手可以确保居民获得即时、个性化的帮助,让人工工作人员专注于解决更复杂的问题。• 应对挑战:虽然 GenAI 提供了大量好处,但也带来了需要谨慎管理的挑战。其中包括: o 内容准确性:GenAI 可能会生成不准确或误导性的内容,如果管理不当,可能会产生严重影响。o 偏见和公平性:延续或加剧人工智能生成内容中的偏见的挑战,特别是关于历史上被边缘化的社区。o 数据隐私和安全:AI 系统处理敏感数据会带来隐私风险,必须通过强大的数据治理和安全协议来缓解这些风险。o 数据成熟度:要使生成式 AI 工具正常工作,它们需要优质、准确且易于访问的数据。然而,许多州政府机构都在努力应对旧系统,这些系统并非为处理现代系统可以处理的大量数据或复杂流程而设计的。更新这些旧系统对于提高数据质量、使信息更易于访问以及充分利用生成式 AI 至关重要。o 财务考虑:实施和维护 GenAI 系统的成本可能很高,特别是对于预算有限的小型机构而言。• 全州范围内采用 GenAI 的方法:需要采取协调一致的全州范围内采用 GenAI 的方法,以确保所有州政府机构都能从标准化实践、共享资源和一致的风险管理方法中受益。WaTech 将作为州政府机构生成式 AI 技术的中介,引领全州企业采用和整合 GenAI 的努力。WaTech 将采用分阶段、迭代的方法来部署全州范围的 GenAI 技术。正在进行的主要 WaTech 计划包括:
2024 年 1 月 30 日,Inslee 州长发布了第 24-01 号行政命令,承认“华盛顿州劳动力对华盛顿的持续繁荣至关重要,该州寻求以合乎道德和公平的方式利用 [GenAI] 的潜力,造福州政府劳动力”(Inslee,第 1 页)。本报告由第 9 节授权,该节指示财务管理办公室州人力资源部 (OFM SHR) 与华盛顿技术解决方案 (WaTech)、华盛顿劳动力培训和教育协调委员会 (WTB) 以及代表州政府雇员的劳工组织合作,“评估 [GenAI] 对州劳动力的影响,制定减轻任何负面影响的策略,并支持帮助员工发展成功使用 [GenAI] 所需技能和知识的计划,并向州长报告他们的发现”(Inslee,2024 年,第 4 页)。
WaTech 监督顾问 Sam Pulley 解释说,988 计划是一条免费的全国性危机热线,提供 24/7 全天候支持,以预防自杀、解决药物滥用问题和解决情绪困扰。它将呼叫者与经过培训的危机顾问联系起来。该计划由卫生部 (DOH) 和医疗保健管理局 (HCA) 联合领导,旨在建立一个全面的危机护理体系,包括呼叫中心、移动危机小组和有需要的个人安全空间。目前,该计划面临中等风险,评级为“黄色”。主要挑战包括国家 988 模式与华盛顿众议院第 1477 号法案要求之间的差距、资金不确定性以及跨多个呼叫中心集成技术。此外,卫生部、HCA 和外部合作伙伴之间复杂的领导结构增加了该计划的运营障碍。