XiaoMi-AI文件搜索系统
World File Search SystemBackdoors
安全性、可靠性和后门 - 剑桥大学
00008270 00 00 00 04 41 43 41 4C-00 00 00 00 00 00 00 0E "...ACAL...." 00008280 00 00 81 3C 00 03 F1 EC-00 01 00 06 41 43 42 41 "..ü<.±..ACBA" 00008290 4E 44 00 00 00 00 00 10-00 00 81 3C 00 03 0E 6E "ND.......ü<.n" 000082A0 00 00 00 05 41 43 44 43-49 00 00 00 00 00 00 12“...ACDCI...”000082B0 00 00 81 3C 00 03 08 02-00 01 00 05 41 43 44 43“..ü<...ACDC" 000082C0 56 00 00 00 00 00 00 14-00 00 81 3C 00 03 06 4E "V......¶..ü<.N" 000082D0 00 01 00 03 41 43 49 00 -00 00 00 00 00 00 00 15“..ACI........§”000082E0 00 00 81 3C 00 03 08 02-00 01 00 03 41 43 56 00“..ü<...ACV。”000082F0 00 00 00 00 00 00 00 17-00 00 81 3C 00 03 06 4E ".........ü<.N" 00008300 00 01 00 07 41 44 44 52-45 53 53 00 00 00 00 18“..地址...." 00008310 00 00 81 3C 00 02 76 6E-00 00 00 04 41 50 45 52 "..ü<.vn...APER" 00008320 00 00 00 00 00 00 00 1A-00 00 81 3C 00 03 22 B6“.........ü<."Â" 00008330 00 00 00 06 41 52 41 4E-47 45 00 00 00 00 00 1C "...排列..." 00008340 00 00 81 3C 00 02 FC C6-00 01 00 07 41 55 58 45 "..ü<.³ã.. AUXE" 00008350 52 52 3F 00 00 00 00 1E-00 00 81 3C 00 00 2F AA "RR?......ü<../Ø" 00008360 00 01 00 05 41 5A 45 52-4F 00 00 00 00 00 00 1F“..AZERO......”00008370 00 00 81 3C 00 03 22 20-00 01 00 04 42 45 45 50“..ü<.”..BEEP" 00008380 00 00 00 00 00 00 00 20-00 00 81 3C 00 00 73 AA "....... ..ü<..sØ" 00008390 00 00 00 03 43 41 4C 00-00 00 00 00 00 00 00 21“……CAL……！”000083A0 00 00 81 3C 00 04 A8 F4-00 00 00 04 43 41 4C 3F “..ü<.¿¶...CAL？”000083B0 00 00 00 00 00 00 00 23-00 00 81 3C 00 02 00 00 ".......#..ü<..."
在机器学习模型中种植未发现的后门
摘要鉴于培训机器学习模型所需的计算成本和技术专长，用户可以将学习任务委托给服务提供商。学习委派具有明显的好处，同时引起了人们对信任的严重关注。这项工作研究了不受信任的学习者可能滥用权力。我们展示了恶意学习者如何将无法检测到的后门种植到分类器中。在表面上，这样的后门分类器的行为正常，但实际上，学习者是一种改变任何输入分类的机制，只有轻微的扰动。重要的是，如果没有适当的“后门钥匙”，该机制就会隐藏起来，并且无法通过任何计算结合的观察者检测到。我们展示了两个用于种植无法检测到的后门的框架，并提供了无与伦比的保证。
以利亚：消除通过分布偏移注入扩散模型的后门
扩散模型（DM）已成为最先进的模型，因为它们在没有对抗性训练的情况下从噪音中产生高质量图像的能力。但是，正如最近的研究报道的那样，它们容易受到后门攻击的影响。数据输入（例如，一些高斯噪声）用扳机盖章（例如，一个白色补丁），后do的模型始终生成目标图像（例如，一张不正确的照片）。但是，从DMS中减轻后门的有效防御策略没有充满反感。为了弥合这一差距，我们提出了第一个DMS的后门检测和重新移动框架。我们在包括DDPM，NCSN和LDM在内的数百多种DM上评估了我们的框架E Li -Jah，并使用13个采样器对3个现有的后门攻击进行了评估。广泛的实验表明，我们的方法可以接近100％的检测准确性，并将后门效应降低至接近零，而无需显着牺牲模型效用。
内部邪恶：通过休眠硬件Trojans的机器学习后门
摘要 - 后门对机器学习构成了严重威胁，因为它们会损害安全系统的完整性，例如自动驾驶汽车。虽然已经提出了不同的防御来解决这一威胁，但他们都依靠这样的假设：硬件加速器执行学习模型是信任的。本文挑战了这一假设，并研究了完全存在于这样的加速器中的后门攻击。在硬件之外，学习模型和软件都没有被操纵，以使当前的防御能力失败。作为硬件加速器上的内存有限，我们使用的最小后门仅通过几个模型参数偏离原始模型。为了安装后门，我们开发了一个硬件特洛伊木马，该木马会处于休眠状态，直到在现场部署后对其进行编程。可以使用最小的后门来配置特洛伊木马，并仅在处理目标模型时执行参数替换。我们通过将硬件特洛伊木马植入商用机器学习加速器中，并用最小的后门来证明攻击的可行性，以使其对交通符号识别系统进行编程。后门仅影响30个模型参数（0.069％），后门触发器覆盖了输入图像的6.25％，但是一旦输入包含后门触发器，它就可以可靠地操纵识别。我们的攻击仅将加速器的电路大小扩大了0.24％，并且不会增加运行时，几乎不可能进行检测。鉴于分布式硬件制造过程，我们的工作指出了机器学习中的新威胁，该威胁目前避免了安全机制。索引术语 - 硬件木马，机器学习后门。
信息安全课程代码：314319学期
Unit - I Introduction to Information Security 1.1 Information Security Overview: Introduction to information, need of information security 1.2 Information classification, Criteria for information classification 1.3 Basic principles of information security: Confidentiality, Authentication, Integrity, Availability, Access Controls, Repudiation 1.4 Type of Attacks: Active and Passive attacks, Denial of Service, DDOS, Backdoors and Trapdoors, Sniffing, phishing, Spoofing, Man in the Middle, Replay, TCP/IP Hacking, Encryption attacks, Social Engineering 1.5 Types of Malwares and their impact on security and prevention: - Virus, Worms, Trojan horse, Spyware, Adware, Ransomware, Logic Bombs, Rootkits, Backdoors, Keyloggers 1.6 Threat and Risk Analysis: Introduction to assets, vulnerability, threats, risks, relation between: threat, vulnerability, risks
远程操作的保证问题：AI/ML ...
- 引入偏见； - 创建错误的输出； - 降低精度，准确性和/或召回； - 引入漏洞（即后门）和系统故障的潜力；和/或 - 影响ML组件的决策或预测能力。•随着时间的流逝，可能会巧妙地发生，使识别直到
对抗性人工智能在自治时代欺骗算法
1. 规避：修改输入以影响模型的攻击，例如对图像进行修改以影响分类。此技术可用于规避模型在下游任务中正确分类情况。2. 模型中毒：对手可以训练性能良好的机器学习模型，但包含后门，当输入包含对手定义的触发器的输入时，会产生推理错误。可在推理时利用此后门模型进行规避攻击。3. 训练数据：修改训练数据的攻击会添加另一个后门，例如，训练数据中不可察觉的模式会创建可以控制模型输出的后门。4. 提取：窃取专有模型的攻击，例如，攻击可以定期对模型发起查询，以提取有价值的信息来揭示其属性。5. 推理：获取有关私人数据的信息的攻击，例如，攻击。
生成式人工智能的网络安全考虑因素
训练数据中毒 训练数据中毒是指恶意操纵 LLM 的训练数据或微调程序，从而引入漏洞、后门或偏见，这些漏洞、后门或偏见可能会破坏模型的安全性、有效性或道德规范。通过篡改训练数据或微调程序，攻击者可以注入微妙但有影响力的修改，从而破坏 LLM 的预期行为。这可能包括在训练数据中引入恶意模式、有偏见的信息或故意误导的示例，旨在歪曲模型的决策过程或损害其有效概括的能力。
执行摘要Microsoft数字防御报告2024
这些网络攻击正在以令人叹为观止的规模继续进行，随着它们越来越多的人类健康处于危险之中，停止它们的赌注就不会更高。在这个财政年度，仅在美国，有389个医疗机构被勒索软件成功袭击，从而导致网络关闭，系统离线，关键的医疗运营延迟并重新安排了约会。更糟糕的是，网络攻击的风险增加不再限于民用网络犯罪分子。民族国家在网络领域变得越来越积极，技术成熟的水平不断增长，反映了对资源和培训的投资增加。这些国家赞助的黑客不仅在窃取数据，而且还启动勒索软件，为未来破坏的后门介绍，破坏操作以及进行影响力活动。
Microsoft数字防御报告2024
这些网络攻击正在以令人叹为观止的规模继续进行，随着它们越来越多的人类健康处于危险之中，停止它们的赌注就不会更高。在这个财政年度，仅在美国，有389个医疗机构被勒索软件成功袭击，从而导致网络关闭，系统离线，关键的医疗运营延迟并重新安排了约会。更糟糕的是，网络攻击的风险增加不再限于民用网络犯罪分子。民族国家在网络领域变得越来越积极，技术成熟的水平不断增长，反映了对资源和培训的投资增加。这些国家赞助的黑客不仅在窃取数据，而且还启动勒索软件，为未来破坏的后门介绍，破坏操作以及进行影响力活动。