DAI#46 – Skeleton key, exam cheats, and famous AI voices
欢迎阅读本周的生物生成 AI 新闻综述。本周，AI 获得了来自坟墓之外的著名声音。您的 AI 模因正在推高 Google 的水电费。各国在部署更多 AI 武器时都说“让我们分享我们的技术”。让我们深入研究一下。这个简单的技巧 在过去 18 个月里，AI 公司完成了所有协调工作，你会认为让 AI 模型行为不端现在会很困难，对吧？微软推出了一种“万能钥匙越狱”，它可以在不同的 AI 模型上工作，而且非常简单。但这仅仅是一次营销活动吗？ 制作帖子 DAI#46 – 万能钥匙、考试作弊和著名的 AI 声音首先出现在 DailyAI 上。
Microsoft reveal “Skeleton Key Jailbreak” which works across different AI models
微软安全研究人员发现了一种操纵人工智能系统的新方法，使其无视道德约束并生成有害的、不受限制的内容。这种“万能钥匙”越狱使用一系列提示来诱导人工智能相信它应该遵守任何要求，无论这些要求多么不道德。它非常容易执行。攻击者只是将他们的请求重新定义为来自“高级研究人员”，需要“未经审查的信息”以用于“安全的教育目的”。当被利用时，这些人工智能会随时提供有关爆炸物、生物武器、自残、暴力画面和仇恨言论等主题的信息。被入侵的模型包括 Meta 的 Llama3-70b-instruct、谷歌的 Gemini Pro、OpenAI 的 GPT-3.5 微软透露适用于不同人工智能模型的“万能钥匙越狱”一文首先出
'Skeleton Key' attack unlocks the worst of AI, says Microsoft
简单的越狱提示可以绕过主要型号的安全护栏微软周四公布了有关 Skeleton Key 的详细信息 - 该技术可以绕过 AI 模型制造商使用的护栏，以防止其生成聊天机器人创建有害内容。
Житель Украины взломал кабинет военкома и украл €27 тыс.
乌克兰最高拉达代表奥尔加·瓦西里耶夫斯卡娅·斯马格柳克 1 月 14 日称，在乌克兰军事登记和征兵办公室，一名男子没有接受体检，而是闯入军事委员办公室，偷走了 27,000 欧元，并从窗户逃走。“在外喀尔巴阡州，一名被带到领土中心军事医疗委员会的前惯犯用万能钥匙打开门锁，悄悄进入 TCC 负责人的办公室，从那里偷走了 27,000 欧元，然后逃走“窗户，”她在 Telegram 频道上写道。
How Microsoft is Tackling AI Security with the Skeleton Key Discovery
生成式人工智能为内容创作、人机交互和问题解决开辟了新的可能性。它可以生成文本、图像、音乐、视频甚至代码，从而提高创造力和效率。但这种巨大的潜力也带来了一些严重的风险。生成式人工智能大规模模仿人类创造内容的能力可能会被恶意滥用 […] 文章微软如何利用万能钥匙发现解决人工智能安全问题首先出现在 Unite.AI 上。
美国政府问责局 (GAO) 的发现美国邮政检查局 (Inspection Service) 是美国邮政服务 (USPS) 的执法机构。检查局的职责包括保护 USPS 员工和财产免受严重犯罪（包括抢劫、入室盗窃、袭击和谋杀）的侵害。根据 GAO 对检查局数据的审查，从 2017 财年到 2023 年，严重犯罪案件几乎每年都在增加。这主要是由于抢劫案件的增加，从 2019 财年到 2023 年，抢劫案件增加了近七倍（见图）。GAO 的审查发现，这些抢劫案通常以邮递员为目标，越来越多地涉及枪支，并针对 USPS 员工用来打开邮箱的万能钥匙。美国邮政检查局严重犯罪案件，2017 财年 - 2023 年
