XiaoMi-AI文件搜索系统
World File Search System系统弱点
反欺诈策略2023-2026
•NHS采用的主要新系统和过程是在设计中常规评估的欺诈风险（初始欺诈影响评估）。•通过有效的地平线扫描和欺诈风险评估，确定了新兴风险并在整个部门进行协作。•操作智能和经验教训的评论为预防欺诈行动（系统弱点）的计划提供了信息。•数据分析用于指导/告知整个部门的预防活动。•专注的通信活动和相关的影响已实现。•促进整个系统中有影响力的反欺诈活动，以此作为收入保护的手段和整个系统中广泛采用的建议。•反欺诈活动的价值更广泛地认可，并提高了对我们的反欺诈功能的意识和信心。
银行网络安全指南
任命具有明确报告行的专用首席信息安全官（CISO）。确定漏洞并确定缓解策略的优先级。物理，数字和以网络安全为中心资源的资产管理。根据业务影响分析（BIA）制定业务弹性策略。进行年度模拟练习以测试响应计划。确保供应商遵守网络安全控制并进行定期审核。实现第三方连接的网络安全协议。安全意识：对员工，承包商和第三方的定期培训。端点安全性：防止恶意软件，勒索软件和未经授权的访问。应用程序安全：减轻软件应用程序中的风险网络安全：使用加密和访问控件在运输中安全数据。实施身份和访问管理（IAM）部署安全操作中心（SOC）进行实时威胁监控。使用网络威胁情报（CTI）来识别并应对新兴风险。进行补丁和脆弱性管理以解决系统弱点。对IT治理和网络安全过程进行独立审核。维护事件报告，风险评估和合规性发现的文件。向CBE提交定期合规报告。红色团队练习：进行道德黑客练习以评估安全准备。使用发现来改善防御机制和事件响应方案。
锚定偏差影响可解释 AI 系统中的心理模型形成和用户依赖
可解释人工智能 (XAI) 方法用于为机器学习和人工智能模型带来透明度，从而改善最终用户的决策过程。虽然这些方法旨在提高人类的理解力和心理模型，但认知偏见仍然会以系统设计者无法预料的方式影响用户的心理模型和决策。本文介绍了智能系统中由于排序效应而导致的认知偏见的研究。我们进行了一项受控用户研究，以了解观察系统弱点和优势的顺序如何影响用户的心理模型、任务绩效和对智能系统的依赖，并研究解释在解决这种偏见中的作用。使用烹饪领域的可解释视频活动识别工具，我们要求参与者验证是否遵循了一组厨房政策，每项政策都侧重于弱点或优势。我们控制了策略的顺序和解释的存在来检验我们的假设。我们的主要发现表明，那些早期观察到系统优势的人更容易受到自动化偏见的影响，并且由于对系统的第一印象是积极的，所以犯了更多错误，同时他们建立了更准确的系统能力心理模型。另一方面，那些较早发现弱点的人犯的错误明显较少，因为他们倾向于更多地依赖自己，同时他们也低估了模型能力，因为他们对模型的第一印象更为负面。我们的工作提出了强有力的发现，旨在让智能系统设计师在设计此类工具时意识到这种偏见。
安全人工智能（SAI）：针对快速注射的双层防御模型
抽象人工智能（AI）深深地嵌入了处理敏感信息和任务操作的部门中，并且保护这些系统已变得至关重要。本文引入了一种新型的双层防御系统，称为安全人工智能（SAI），旨在减轻与迅速注射和迅速中毒攻击有关的风险。在连续设置“ SAI”中使用两个大型语言模型（LLM） - 一种用于初始输入及时分类的“后卫”模型，该模型有效地滤除了对抗性输入以保护AI系统和响应用户查询的主要响应模型。通过严格的测试，SAI在防止恶意提示损害AI响应方面表现出了弹性，从而大大提高了AI安全性。本文彻底研究了SAI的架构，方法论和性能，以满足对安全和对抗性AI系统的不断增长的需求。关键字：大语言模型，安全的人工智能，人工智能，及时注入，AI安全性。ntroduction虽然人工智能（AI）在政府，银行业和医疗保健方面具有许多优势，但其融合会增加脆弱性，尤其是随着LLM的复杂性和能力发展。AI仍然容易受到对抗性及时的操纵的攻击，这些操纵利用了自然语言弱点，尽管对强大的模型训练和硬编码过滤器规则进行了大量研究[1] [9] [18]。直接将有害物质直接嵌入AI输入，快速注射和中毒攻击中提供了一种特殊的危害[1] [6] [11]。与通常集中于攻击系统弱点的传统网络威胁不同，这些攻击使用了AI学习的反应模式，因此修改模型以产生意外的和通常的负面结果[1] [3]。鉴于语言的复杂性和LLM答案的复杂性，这种敌对的方法可能很难检测和预防[6] [7]。在这项工作中提出了安全的人工智能（SAI）作为解决这些挑战的解决方案。SAI的创新架构满足了针对基于及时的敌对投入的弹性，可扩展的防御的需求