XiaoMi-AI文件搜索系统
World File Search SystemRisks
生成AI会话幻灯片的安全风险
•…双重用品是指可用于平民和军事应用的商品，软件和技术•首先指出了“双重用途的困境”，因为发现了合成和批量生产的氨的过程，这些过程彻底改变了现代化的肥料，但也导致了在世界战期间创造化学武器的工具。
Hyeyoon Jung
Jung，Seltzer，桑托斯：纽约联邦储备银行（电子邮件：hyeyoon.jung@ny.frb.org，joao.santos@ny.frb.org，lee.seltzer@ny.frb.org）。 The authors thank Ralf Meisenzahl, Matteo Crosignani, Adele Morris, Ahyan Panjwani, Zacharias Sautner, Bob Deyoung, Pascal Weel, and participants at the Cleveland Fed Seminar, the Federal Reserve Board Seminar, the OCC Emerging Risks Conference, IFABS Oxford Conference, the New York Fed/Columbia Environmental Economics and Policy Conference, the Fed System气候会议，斯坦福大学理论经济学院会议和阿萨·伊比夫（Assa-Ibefa）会议，以供宝贵评论。 Erica Bucchieri，Oliver Hannaoui和Peter Prastakos提供了出色的研究帮助。 本文介绍了初步发现，并正在分发给经济学家和其他感兴趣的读者，以激发讨论和引起评论。 本文所表达的观点是作者的观点，不一定反映纽约联邦储备银行或美联储系统的立场。 任何错误或遗漏都是作者的责任。Jung，Seltzer，桑托斯：纽约联邦储备银行（电子邮件：hyeyoon.jung@ny.frb.org，joao.santos@ny.frb.org，lee.seltzer@ny.frb.org）。The authors thank Ralf Meisenzahl, Matteo Crosignani, Adele Morris, Ahyan Panjwani, Zacharias Sautner, Bob Deyoung, Pascal Weel, and participants at the Cleveland Fed Seminar, the Federal Reserve Board Seminar, the OCC Emerging Risks Conference, IFABS Oxford Conference, the New York Fed/Columbia Environmental Economics and Policy Conference, the Fed System气候会议，斯坦福大学理论经济学院会议和阿萨·伊比夫（Assa-Ibefa）会议，以供宝贵评论。Erica Bucchieri，Oliver Hannaoui和Peter Prastakos提供了出色的研究帮助。本文介绍了初步发现，并正在分发给经济学家和其他感兴趣的读者，以激发讨论和引起评论。本文所表达的观点是作者的观点，不一定反映纽约联邦储备银行或美联储系统的立场。任何错误或遗漏都是作者的责任。
对AI相关的网络安全风险和对策的调查
摘要 - 移动性-AS-A-Service（MAAS）整合了不同的运输方式，并可以基于个人的偏爱，行为和愿望来支持旅行者的旅程计划的更多个性化。为了充分发挥MAA的潜力，需要一系列AI（包括机器学习和数据挖掘）算法来学习个人需求和需求，以优化每个旅行者和所有旅行者的旅程计划，以帮助运输服务运营商和相关的政府机构，以操纵和计划其服务，并探讨和预防各种威胁性的旅行者，包括各种不和谐的行星和不去行业者和不去行业者和不去行业者和不相行者和不去行业者和不相行者。在集中式和分布式设置中，对不同的AI和数据处理算法的使用越来越多，使MAAS生态系统在AI算法级别和连接性表面上都可以在不同的网络和隐私攻击中发出不同的网络和隐私攻击。在本文中，我们介绍了有关AI驱动的MAAS设计与与网络攻击和对策相关的各种网络安全挑战之间的耦合的第一个全面综述。特别是，我们专注于当前和出现的AI易于侵略的隐私风险（专业，推理和第三方威胁）以及对抗性AI攻击（逃避，提取和游戏）可能会影响MAAS生态系统。这些风险通常将新颖的攻击（例如，逆学习）与传统攻击媒介（例如，中间攻击）结合在一起，加剧了更广泛的参与参与者的风险和新业务模型的出现。
高后果 AI 风险管理的可行指南：迈向解决 AI 灾难性风险的标准
1 对于本文档的大部分内容，许可均符合 CC BY 4.0 许可证 ( https://creativecommons.org/licenses/by/4.0/ )。有关本文档第 3.2.2.1 节、3.4.2.1 节和附录 1 部分内容的合理使用许可，这些部分内容包括或改编自 NIST 出版物（例如 SP 800-30）的段落，请参阅 NIST 许可证的合理使用条款，网址为 https://www.nist.gov/open/license 。（在第 3.2.2.1 和 3.4.2.1 节中，我们从 NIST SP 800-30 的表 H-2 中引用了“关键基础设施部门受损或丧失能力”一词，并从 NISTIR 8062 中引用了“对民主制度和生活质量的影响”一词。本文件第 3.2.2.1.2 节中的影响评级类别与 NIST SP 800-30 的表 H-3 非常接近，只是我们使用“国家或整个社会”而不是“国家”，并且我们添加了一个副标题“可能导致社会严重或灾难性后果的因素包括”以及该副标题下的相关材料。）有关第 3.3 节中包含联合国出版物摘录的部分的权限，请参阅 https://shop.un.org/rights-permissions 。
人工智能风险存储库：人工智能风险的综合元审查、数据库和分类
人工智能 (AI) 带来的风险引起了学术界、审计师、政策制定者、AI 公司和公众的极大关注。然而，缺乏对 AI 风险的共同理解会阻碍我们全面讨论、研究和应对这些风险的能力。本文通过创建 AI 风险存储库作为共同的参考框架来解决这一差距。这包括一个从 43 个分类法中提取的 777 个风险的动态数据库，可以根据两个总体分类法进行过滤，并通过我们的网站和在线电子表格轻松访问、修改和更新。我们通过系统地审查分类法和其他结构化的 AI 风险分类，然后进行专家咨询，构建了我们的存储库。我们使用最佳拟合框架综合来开发我们的 AI 风险分类法。我们的高级人工智能风险因果分类法根据其因果因素对每种风险进行分类 (1) 实体：人类、人工智能；(2) 意向性：有意、无意；和 (3) 时间：部署前；部署后。我们的中级人工智能风险领域分类法将风险分为七个人工智能风险领域：(1) 歧视和毒性，(2) 隐私和安全，(3) 错误信息，(4) 恶意行为者和滥用，(5) 人机交互，(6) 社会经济和环境，以及 (7) 人工智能系统安全、故障和局限性。这些进一步分为 23 个子域。据我们所知，人工智能风险存储库是首次尝试严格整理、分析和提取人工智能风险框架，将其整合到一个可公开访问、全面、可扩展且分类的风险数据库中。这为以更协调、更一致、更完整的方式定义、审计和管理人工智能系统带来的风险奠定了基础。
使用软件材料清单评估软件供应链的安全风险
摘要 - 软件供应链由越来越多的组件组成，包括二进制文件，库，工具和微服务，以满足现代软件的要求。由软件供应商组装的产品通常由开源和商业组件组成。软件供应链攻击是网络安全威胁的最大增长类别之一，供应商产品的大量依赖性使单一脆弱性传播到许多供应商产品中成为可能。此外，软件供应链还提供了较大的攻击表面，可允许上游传播依赖性的漏洞影响核心软件。软件材料清单（SBOM）是一种新兴技术，可以与分析工具一起使用，以检测和减轻软件供应链中的安全漏洞。在这项研究中，我们使用开源工具Trivy和Grype来评估从各个域和大小的第三方软件存储库中开采的1,151个SBOM的安全性。我们探讨了SBOM跨SBOM的软件漏洞的分布，并寻找最脆弱的软件组件。我们得出的结论是，这项研究通过软件供应链漏洞表明了安全性的威胁，以及使用SBOMS来帮助评估软件供应链中的安全性的可行性。索引条款 - 软件供应链安全，材料清单，采矿软件存储库，第三方代码
根据AI算法确定数字资产交易中的洗钱风险
摘要 - 本文探讨了检测与洗钱相关的可疑加密货币交易的方法，利用先进的AI算法。该研究介绍了一个多模型框架，该框架结合了生成对抗网络（GAN），LSTM，基于自动编码器的异常检测模型（ABAD）和其他算法，以应对样品不平衡和嘈杂数据等挑战。基于图形的功能工程和嵌入方法用于构建交易信息图并提取有意义的模式。结果表明，合奏学习方法在检测可疑交易时显着优于单个模型和基于规则的传统系统。尽管取得了成功，但仍然存在不平衡的数据集，噪音和有限的关系特征等挑战。未来的研究建议通过图神经网络和复杂的基于网络的方法来增强模型性能。这项工作强调了机器学习模型的可扩展性和适应性，以解决加密货币洗钱的不断发展的复杂性。
NIST AI 100- 4，降低合成内容带来的风险
草案文件的这一部分明确指出了“基于风险和以人为本的方法”的重要性。它提到了与合成内容相关的具体危害和风险，并承认不同的参数（包括受众、用例和背景）有助于区分良性和有害性。如果本节有一个小节，其中引用了现有研究、1 个研究领域和实践社区，并使用社会技术分析方法来确定“危害和风险”，那么它将大大增强其说服力。公共利益技术是一个新兴研究领域的一个例子，从业者开发了社会技术分析方法，用于为新兴威胁的缓解技术提供信息。
个人和边缘计算设备的AI硬件的安全风险
我们目前正在AI中经历关键时刻，这种趋势正在迅速扩展到各个部门，并且可能对社会，企业和政府产生巨大的影响。这一激增主要是由绩效的重大增强驱动的，几乎任何专业都可以通过合并AI技术来实现。因此，未能采用这些能力的实体可能很快发现自己处于竞争不利的位置。应对这种不断增长的需求，各种开发人员和公司正在积极将AI嵌入常用平台，例如桌面和移动操作系统（OS）。有些人甚至正在开发专门的硬件，以提高这种变革性技术的效率，以确保AI工具对更广泛的受众更容易获得和有效。
AI和算法风险报告荷兰
因此，这些仍然是暴风雨的时期，这与新系统技术的出现相处。一年前，观察到荷兰必须采取措施才能掌握算法。同时，AI技术的动荡增长仍在继续。此外，生成AI的出现为通过新的AI应用程序进行了大规模实验提供了激励措施。在未来几年中，AI将与社会要素越来越深深地交织在一起。这是在规模和自然方面的结果，在更多和更新的风险中仍然难以评估。其长期影响也尚未完全理解。总的来说，到目前为止，国际政策响应已经决定性。它既关注传统的监督，又关注新的测试和控制形式，例如AI系统的安全性以及打击新的网络安全风险。同时