详细内容或原文请订阅后点击阅览
AI安全处于Black Hat USA 2025
安全景观正在发生又一个重大的转变，没有什么比在美国2025年的黑帽子更明显的地方了。随着人工智能（尤其是代理多样性）被深深地嵌入企业系统中，这既带来了安全挑战和机遇。这是安全专业人员需要了解的有关这种快速发展的景观的知识。 AI系统 - […]
来源:O'Reilly Media _AI & ML安全景观正在发生又一个重大的转变，没有什么比在美国2025年的黑帽子更明显的地方了。随着人工智能（尤其是代理多样性）被深深地嵌入企业系统中，这既带来了安全挑战和机遇。这是安全专业人员需要了解的有关这种快速发展的景观的知识。
黑帽美国2025AI系统，尤其是已成为企业工作流程不可或缺的AI助手 - 已成为攻击者的主要目标。在最有趣，最恐怖的演讲之一中，Zenity的迈克尔·巴格里（Michael Bargury of Zenity）展示了以前未知的“ 0click”利用方法，影响了包括Chatgpt，Gemini和Microsoft Copilot在内的主要AI平台。这些发现强调了AI助手尽管采取了强大的安全措施，但如何成为系统妥协的向量。
“ 0 Click”利用方法AI安全性提出了一个悖论：随着组织扩展AI功能以提高生产率，它们必须一定会增加这些工具对敏感数据和系统的访问。这种扩展创造了新的攻击表面和更复杂的供应链来防御。 NVIDIA的AI Red Team强调了这种脆弱性，揭示了大型语言模型（LLMS）的独特感染了恶意输入，并展示了几种利用这些固有弱点的新型利用技术。
大型语言模型（LLMS）独特容易受到恶意输入的影响但是，这并不是全部新领域。许多传统的安全原则仍然具有重要意义，实际上比以往任何时候都更为重要。 Nathan Hamiel和Kudelski Security的Nils Amiet展示了AI驱动的开发工具是如何无意中重新引入了众所周知的漏洞中的。他们的发现表明，基本的应用程序安全实践仍然是AI安全的基础。
无意间将众所周知的漏洞重新引入现代应用