HiddenLayer

HiddenLayer 对 NIST 关于 AI 的 RFI 的回应

HiddenLayer 团队诞生于 2019 年的一次真实世界中的对抗性机器学习攻击，当时 Chris Sestito、Jim Ballard 和 Tanner Burns（HiddenLayer 创始人）负责应对一次严重的真实世界中的对抗性机器学习攻击。当时，Chris Sestito（HiddenLayer 首席执行官）领导着 Cylance 的威胁研究，Cylance 是一家 AI 公司，通过利用深度学习来防止恶意软件攻击，彻底改变了反病毒行业。2019 年，Windows 可执行 ML 模型通过现在称为推理攻击的攻击被利用，暴露了其弱点，并允许攻击者成功逃避 Cylance 运行的任何地方的检测。在响应工作中，未来的 HiddenLayer 创始人将其视为未来攻击的前兆，这些攻击是由 AI/ML 固有的弱点、更多的开源攻击工具以及对世界上有史以来发展最快、最重要的技术的不断增长的了解和使用而引起的。为了证明这些攻击是可以预防的，该团队开发了一种独特的、正在申请专利的、产品化的人工智能安全解决方案，以帮助所有组织减轻基于人工智能的解决方案固有的安全风险。