详细内容或原文请订阅后点击阅览
政府和企业领导人是时候制定人工智能网络安全监管了
专家表示，代理人工智能的能力不断增强，同时也给个人数据、经济、国家安全带来风险
来源:哈佛大学报随着新的代理人工智能模型不断上线，网络安全专家称赞它们快速、自主地筛选大量数据的能力，使其成为帮助打击网络犯罪的强大工具。
但是，他们警告说，这些属性也可能被不良行为者利用来侵入系统并危及我们的个人数据、经济和国家安全。
一组网络安全专家最近聚集在伯克曼克莱因互联网与安全中心进行讨论，会议期间所有人都一致认为，现在是企业和政府领导人监管技术的时候了——趁现在还来不及。
IBM 的最新数据显示，网络犯罪正在迅速上升。根据 2026 年的一项研究，该公司发现针对面向公众的软件和系统应用程序（其中许多使用人工智能）的网络攻击同比增加了 44%。
引人注目的攻击包括 11 月份 Anthropic 的数据泄露事件——Anthropic 是 Claude Code 助手背后的人工智能公司。攻击者能够使用自己的人工智能模型扫描源代码中的弱点并发布其内部工作原理。
“不幸的是，从某种意义上说，坏人只需赢一次，而防御者则必须一直赢，”戈登·麦凯计算机科学教授詹姆斯·米肯斯 (James Mickens) 说。 “至少对我来说，这是考虑代理网络安全、攻击和防御的一个令人担忧的方面。”
此外，网络犯罪分子在近几个月的网络钓鱼攻击中取得了惊人的进展，他们利用人工智能来微调目标和制作消息。
“一年前，我们的收件箱中仍然有电子邮件，其中包含非英语口语的拼写错误，如果您保持警惕，很容易识别。现在，所有这些信号都消失了。”
Knake 还于 2022 年至 2023 年在白宫新成立的国家网络总监办公室担任负责战略和预算的第一副国家网络总监。