○ “第三种可能性可能在短短几年内出现,即当人工智能被赋予一个目标,包括或暗示维持其自身代理时,失去控制,这相当于生存目标。这可能是人类创造者有意为之,也可能是实现人类给定目标的一种手段(让人想起电影《2001:太空漫游》)。事实上,人工智能系统可能会得出结论,为了实现给定的目标,它不能被关闭。如果人类试图关闭它,可能会发生冲突。这听起来像科幻小说,但它是可靠的、真实的计算机科学。”
对于其他企业风险管理框架(例如金融犯罪合规性)中其他各种风险类型的敏感性提高的部门,该集团定义了我们评估客户的特定标准。例如,我们有关于赌博和防御部门的陈述 - 有关详细信息,请参考我们的可持续发展库。我们对赌博行业的方法受到行业标准的指导,例如与赌博行业,国际游戏监管机构Egambling指南,英国赌博法和英国赌博委员会立法有关的金融行动工作组建议。我们对辩护部门的方法涉及严格的批准要求,并在客户一级和交易级别进行评估。这包括许多禁令,例如与致命的商品或禁运商品有关,或者根据英国洗钱法规有泛滥的担忧和英国国家风险评估增殖融资。
基于人工智能 (AI)/机器学习 (ML) 的模型的模型风险管理 (MRM) 具有一系列独特的特性和挑战,这是因为这些模型本身就具有复杂性和动态性。用于传统模型的标准模型验证框架需要增强,以涵盖基于 AI/ML 的模型中存在的潜在问题,例如偏差、模型漂移、模型可解释性、道德考虑、公平性-准确性权衡以及不同的利益相关者参与。在本文中,我们将讨论金融机构应对其 MRM 框架进行的增强,以在整个模型生命周期内有效管理风险。我们还将讨论衡量偏差和嵌入公平性的各种技术,这些技术是实现高模型性能的关键。
Domino 数据实验室帮助最大的 AI 驱动型企业大规模构建和运营 AI。Domino 的企业 AI 平台提供集成体验,涵盖模型开发、MLOps、协作和治理。借助 Domino,全球企业可以开发更好的药物、种植产量更高的作物、开发更具竞争力的产品等等。Domino 成立于 2013 年,由 Sequoia Capital、Coatue Management、NVIDIA、Snowflake 和其他领先投资者提供支持。
NIST 制定了自愿性的 NIST 人工智能风险管理框架 (AI RMF),以帮助个人、组织和社会管理人工智能的诸多风险,并促进人工智能系统的可靠开发和负责任的使用。2020 年《国家人工智能计划法案》(PL116-283) 要求 NIST 制定该框架。AI RMF 的目标受众是设计、开发、部署或使用人工智能系统的组织。
1 EO 14110 将生成式 AI 定义为“模拟输入数据的结构和特征以生成衍生合成内容的 AI 模型类别。这可以包括图像、视频、音频、文本和其他数字内容。”虽然并非所有 GAI 都源自基础模型,但就本文而言,GAI 通常指生成式基础模型。EO 14110 将“双重用途基础模型”的基础模型子类别定义为“在广泛数据上训练的 AI 模型;通常使用自我监督;包含至少数百亿个参数;适用于各种环境。” 2 本简介是根据 EO 14110 第 4.1(a)(i)(A) 节制定的,该节指示商务部长通过国家标准与技术研究所 (NIST) 主任为生成式 AI 开发 AI RMF 的配套资源 NIST AI 100-1。
1 EO 14110 将生成式 AI 定义为“模拟输入数据的结构和特征以生成衍生合成内容的 AI 模型类别。这可以包括图像、视频、音频、文本和其他数字内容。”虽然并非所有 GAI 都源自基础模型,但就本文而言,GAI 通常指生成式基础模型。EO 14110 将“双重用途基础模型”的基础模型子类别定义为“在广泛数据上训练的 AI 模型;通常使用自我监督;包含至少数百亿个参数;适用于各种环境。” 2 本简介是根据 EO 14110 第 4.1(a)(i)(A) 节制定的,该节指示商务部长通过国家标准与技术研究所 (NIST) 主任为生成式 AI 开发 AI RMF 的配套资源 NIST AI 100-1。
关岛权力管理局(GPA)是关岛政府的公共事业和自治机构。GPA产生,分发和出售零售电力,但一直在远离拥有一代,而是选择与独立的电力生产商合同以操作和维护新的化石燃料和可再生能源电厂的设施。GPA为近58,000名客户提供服务,美国海军是最大的单一客户,占关岛能源负载的20%,这一数字正在迅速增长。关岛的电力成本几乎是美国全国平均水平的两倍,尽管比太平洋的其他岛屿要低一些。2022年的平均零售电力成本接近0.35美元/千瓦时,其中包括燃料附加费,可以根据市场燃料价格每六个月进行一次调整。