Malicious hackers are weaponizing generative AI
虽然我发誓不再将研究作为博客素材，但我确实注意到 Vulcan Cyber 的 Voyager18 研究团队最近发布了一份咨询报告，证实生成式人工智能（如 ChatGPT）将迅速转变为一种武器，随时准备攻击您附近的基于云的系统。大多数云计算内部人士一直在等待这一刻。新的攻击方式一种使用 OpenAI 语言模型 ChatGPT 的新攻击技术已经出现；攻击者正在开发人员环境中传播恶意程序包。专家们发现 ChatGPT 会生成不存在的 URL、引用、代码库和函数。根据报告，这些“幻觉”可能是由旧的训练数据引起的。通过 ChatGPT 的代码生成功能，攻击者可以利用恶意分发的伪造代码库（程序包），
