XiaoMi-AI文件搜索系统
World File Search SystemTeaming
红队中的人工智能
红队模拟现实世界中对组织、基础设施或个人等目标的攻击，以测试他们的防御能力并评估漏洞。人工智能在红队网络攻击中发挥着重要作用。本文通过研究人工智能方法在各种情况下如何被滥用以及确定这些攻击的典型目标，探讨了人工智能在红队中的影响。最近的研究强调了与大型语言模型（LLM）相关的风险，这是一种先进的人工智能，以及它们重塑红队领域的潜力。本文旨在进行全面回顾，分析人工智能在网络攻击中的作用及其对红队实践的影响。论文第 2 章分析了提交的文章，总结了其方法和结果。本文进行了范围界定审查，旨在确定红队中使用的 AI 方法及其有针对性攻击的性质。第 3 章介绍了扩展的文献综述，采用叙述性综述和滚雪球抽样方法来实现其目标。该评论重点介绍了红队攻击中使用的大型语言模型 (LLM)。它探讨了 LLM 和其他高级 AI 方法在网络攻击领域的作用，重点介绍了最近的研究及其目标。AI 正在推动整个红队领域的变革，而 LLM 等高级 AI 既带来了机遇，也带来了风险。自动化网络攻击的兴起带来了新的复杂程度，使得这些攻击越来越难以检测。网络犯罪分子正在利用可访问的 AI 工具执行自动化和高度逼真的攻击，通常只需要极少的人为干预。这些基于 LLM 的应用程序不仅使攻击者能够优化他们的策略，而且由于 AI 系统内的漏洞，还存在严重风险，可能导致严重后果。例如，对 AI 驱动的攻击的模拟显示出很高的成功率，凸显了这些工具增强网络攻击方法的潜力。讨论了 Auto-GPT 等工具在未来向公众推出时被滥用的可能性。需要对网络攻击中的 AI 进行研究，以应对红队中使用 AI 应用程序所带来的威胁。
红队生成式 AI/NLP、BB84 量子密码协议和 NIST 批准的抗量子密码算法
这项研究历时五年，深入探讨了这种融合对网络安全的影响，特别关注人工智能/自然语言处理 (NLP) 模型和量子加密协议，特别是 BB84 方法和特定的 NIST 批准算法。该研究利用 Python 和 C++ 作为主要计算工具，采用“红队”方法，模拟潜在的网络攻击来评估量子安全措施的稳健性。为期 12 个月的初步研究奠定了基础，本研究旨在在此基础上进行扩展，旨在将理论见解转化为可操作的现实世界网络安全解决方案。该研究位于牛津大学技术区，受益于最先进的基础设施和丰富的协作环境。该研究的总体目标是确保随着数字世界向量子增强操作过渡，它仍然能够抵御人工智能驱动的网络威胁。该研究旨在通过迭代测试、反馈集成和持续改进来促进更安全、量子就绪的数字未来。研究结果旨在广泛传播，确保知识惠及学术界和全球
与无人系统的运营团队一起学习
摘要 - 莲花项目旨在改善海上监视。在这种情况下，该立场论文提出了持续的贡献，包括用于将多代理系统应用于监视任务的水下无人机组的新型机器学习算法。它强调将人机组合纳入海上情景中的决策。该项目的预期结果包括对自动驾驶汽车组的强大控制，适合环境变化以及有效的报告方法。任务摘要将通过叙事方式传递给人类操作员，以归功于无人机所检测到的相关事件。通过机器学习提供支持的这种叙事构造的整合将提高团队的整体有效性，从而构成重大突破。
宣布即将发布的资金机会公告的团队合作伙伴列表：从废水中恢复高能材料
宣布即将到来的资金机会公告的团队合作伙伴列表公告：从废水中恢复高能量价值材料，高级研究项目机构 - 能源（ARPA-E）正在考虑发出资金通知（NOFO）通知（NOFO），以支持开发新技术，以从新技术中恢复高度的能源，以减少对国内供应的高度销售，并降低了对国内的散发，并降低了国内的进出式，并降低了国内的进出式，并提供了对国内的进出式，并降低了国内的进出式，并降低了国内的进出式，并降低了国内的进出式，并提供了促成的进口，并降低了进口的进口，并降低了杂种，并降低了进口的进口，并支持了进出的进出口。流处理。本公告的目的是促进成立新的项目团队，以应对潜在的未来NOFO。将来发行的任何NOFO都将提供特定的计划目标，技术指标和选择标准。如果此公告与潜在的NOFO之间存在任何不一致之处，则NOFO语言将控制。该计划的预期目标是开发技术，以从国内废水来源回收多个关键的矿物质和/或基于氨的产品。最高兴趣的关键矿物是能源部指定为12种能源和供应链相关的金属，包括锂，钴和稀土元素。1个基于氨的产品包括肥料，其他高价值氮气以及氨氧化的氢。废水是广泛定义的，可能包括（但不限于）市政，牲畜，工业和采矿废物流。能够恢复高能量氨和关键矿物质的能力技术将是能源效率，高度选择性且耐用的技术。可取的过程将是连续的，涉及几个顺序步骤，易于适应现有或新的废水设施，并且可扩展（例如，模块化）。预计几个技术类别可以实现此目标，包括：
人工智能安全红队方法指南（第 2 版）...
团队合作................................................................................................................................ 49
生成AI的红色团队：银弹或安全剧院？
回应了围绕生成AI（Genai）模型的安全性，安全性和可信赖性的不断上升的担忧，从业人员和监管机构都指出，AI红色团队是其识别和缓解这些风险策略的关键组成部分。但是，尽管AI Red-Teaming在政策讨论和公司消息传递中的核心作用，但仍然存在重大问题，即它的确切含义，它在监管中可以发挥的作用以及它与最初在网络安全领域所构想的常规红色团队实践的关系。在这项工作中，我们确定了最近在AI行业中进行红色团队活动的案例，并对相关研究文献进行了广泛的调查，以表征AI红色团队实践的范围，结构和标准。我们的分析表明，AI红色团队的先前方法和实践沿多个轴线分歧，包括活动的目的（通常是模糊的），评估中的伪像，进行活动的设置（例如，参与者，资源和方法），以及由此产生的决定（例如，报告）（例如，报告（例如，报告），披露，披露和梅蒂尔）。根据我们的发现，我们认为，尽管红色团队可能是表征Genai危害减轻的有价值的大型想法，并且该行业可能有效地采用封闭式AI背后的红色团队和其他策略来保护AI，但要保护AIN的手势，但要对Red-Teamsing（基于公共定义）（基于公共定义），以使每个可能的风险风险进行安全风险，将其视为对安全的风险。为了朝着更强大的生成AI评估工具箱，我们将建议综合为旨在指导和脚手架未来AI红色团队实践的问题。
即将发布的融资机会合作伙伴名单公告：
和材料科学美国高级研究计划局能源部（ARPA-E）正在考虑发布一项资助机会公告（FOA）来支持旨在加速能源创新的量子计算技术的开发。这个潜在的 FOA 将专注于量子计算在化学和材料领域的进步，这将大大解决 ARPA-E 的任务领域，例如提高能源效率和减少能源相关排放，包括温室气体排放。此公告的目的是促进新项目团队的组建，以响应潜在的未来 FOA。未来发布的任何 FOA 都将提供具体的计划目标、技术指标和选择标准。FOA 条款将具有控制性。该计划的预期目标包括开发用于化学和材料模拟的可扩展量子算法。该计划预计将在三年的绩效期内结束，从而产生变革性的量子应用，与传统计算相比，其在速度或准确性等指标上具有颠覆性的性能提升。预计 FOA 将要求在量子硬件上验证性能，要么超越经典的最先进技术，要么以可扩展的方式展示出实现这一目标的清晰途径。以下领域的专业知识可能有助于应对潜在的 FOA：
MAPE-K 环境中的人机协作与小型无人机系统
作者地址：Jane Cleland-Huang，计算机科学与工程系，美国印第安纳州圣母大学，JaneHuang@nd.edu；Theodore Chambers，计算机科学与工程系，美国印第安纳州圣母大学，tchambe2@nd.edu；Sebastian Zudaire，阿根廷库约国立大学巴尔塞罗学院，sebastian.zudaire@ib.edu.ar；Muhammed Tawfiq Chowdhury，计算机科学与工程系，美国印第安纳州圣母大学，mchowdhu@nd.edu；Ankit Agrawal，计算机科学系，美国密苏里州圣路易斯大学，ankit.agrawal.1@slu.edu；Michael Vierhauser，LIT 安全与正确系统实验室，奥地利林茨约翰内斯开普勒大学，michael.vierhauser@jku.at。