Report: Adversarial Use of AI is Evolving
根据谷歌威胁情报小组 (GTIG) 的研究人员的说法，威胁行为者越来越多地利用人工智能工具来增强他们的攻击。 GTIG 首次观察到威胁行为者使用人工智能开发的零日漏洞，尽管谷歌在攻击成功之前阻止了该攻击。威胁行为者还继续使用大型语言模型 (LLM) 进行研究、侦察和恶意软件开发。
How defensive cyber responds to hockey-stick growth of AI-driven threats
[赞助] 人工智能正在以机器速度重塑对抗性网络作战，要求防御者加快作战节奏，同时带来痛苦和成本。
我们将“注意力就是你所需要的一切”规模化为一个工业规模的随机鹦鹉农场，然后安装了代理和工具，直到它开始看起来更像是我们的想法。现在，工程现实——晶圆厂、电力和令人眼花缭乱的代币账单——正在询问我们所做的事情是否值得。通用法学硕士开始在自己的输出上进行近亲繁殖，这与依靠严格约束的对抗性合成数据而蓬勃发展的游戏人工智能不同。我们是否将自己困在潜在推理空间的一个充满斜坡的子超平面中？从注意力开始就是你所需要的，然后进行扩展。结果是，正如 Cosma Shalizi 三年前指出的那样：分享赠送订阅Cosma Shalizi：神经网络“大型语言模型”中的“注意力”、“变形金刚”：“[一项]令人难以置信的
How tactile sensing improves model performance
视觉-语言-动作模型是机器人操作领域的最新技术。他们仍然无法在不压碎薯片的情况下拿起薯片。这是视频触觉动作模型（VTAM）背后的团队今年早些时候发布的结果。在薯片拾取和放置任务中（一项需要高保真力感知的任务，仅靠视觉无法区分挤压性抓握和握持性抓握），VTAM 的性能比 π0.5 基线高出 80%。在更广泛的接触丰富的基准测试套件中，VTAM 的平均成功率为 90%。 1该芯片是一个对抗性示例，这正是它是正确测试的原因。在抓握点，只有接触动态才携带有用的信号。压力、振动和力/扭矩告诉策略正在发生什么，纠正仅视觉模型无法自行检测的视觉估计错误。相机无论分辨率有多高，都无法完成这项工作。
