详细内容或原文请订阅后点击阅览
攻击者滥用 Gemini AI 开发“思考机器人”恶意软件和数据处理代理以用于间谍目的
与此同时，其他人试图对聊天机器人本身进行社会工程，据谷歌威胁情报小组称，国家暴徒和网络犯罪团伙正在与 Gemini 进行试验，开发一种“思考机器人”恶意软件模块，该模块可以重写自己的代码以避免检测，并构建一个跟踪敌人行为的人工智能代理。
来源:The Register _恶意软件据谷歌威胁情报小组称，国家暴徒和网络犯罪团伙正在试验 Gemini 开发“思考机器人”恶意软件模块，该模块可以重写自己的代码以避免检测，并构建一个跟踪敌人行为的人工智能代理。
在周三发布的最新人工智能威胁追踪报告中，巧克力工厂表示，它观察到过去一年中对抗行为的变化。
人工智能威胁跟踪器攻击者不再仅仅使用 Gemini 来提高生产力 - 例如翻译和定制网络钓鱼诱饵、查找有关监视目标的信息、使用 AI 提供技术支持以及编写一些软件脚本。据我们所知，他们还在其运营中试验支持人工智能的恶意软件。
例如，伊朗伊斯兰革命卫队 (IRGC) 的网络部门 APT42 长期以来一直使用人工智能进行网络钓鱼活动并作为翻译工具。
APT42 网络钓鱼活动然而，最近，政府暴徒试图使用 Gemini 构建一个“数据处理代理”，将自然语言请求转换为 SQL 查询，以分析个人身份信息 (PII)，并使用该敏感信息提供有关个人资产所有权、位置、人口统计和行为的见解。
据 GTIG 称，APT42“为 Gemini 提供了几种不同数据类型的模式，以便执行复杂的查询，例如将电话号码链接到所有者、跟踪个人的旅行模式或根据共享属性生成人员列表”，并补充说它已经禁用了这些帐户。
恶意软件在执行期间使用 LLM
此外，谷歌称之为“首次在恶意软件中使用即时人工智能”，一个新颖的代码系列在执行过程中使用 LLM 动态生成恶意脚本、混淆自身并创建恶意功能。
研究人员写道，虽然这种恶意软件并不属于特定组织，但文件名“突出了通常与经济动机相关的行为”。