人工智能技术可以帮助犯罪分子伪造和篡改照片。在社交媒体上流传的一张图片显示,美国前总统唐纳德·特朗普正在浏览一架橙色囚服。另一张图片则描绘了这位前总统在街上与警察扭打在一起的场景。这两张照片看起来都非常逼真,但其实都是使用人工智能工具伪造的。人工智能视频系统也可供犯罪分子使用,使其能够操纵现有视频片段来制作虚假视频。犯罪分子甚至可以伪造 Skype 或 Zoom 上的视频通话,窃取他人的形象和身份来推进他们的诈骗活动。保险公司的高管或员工可能就是这些计划的受害者。例如,诈骗者以真实银行专业人士的名义和形象创建虚假的社交媒体账户。这些账户显示这些人支持加密货币或提供虚假贷款优惠。
Oyuntur 的同谋者以他人名义创建虚假电子邮件账户,并设计类似于美国总务管理局 (GSA) 面向公众的网站的虚假网页。2018 年 6 月至 9 月,同谋者向国防部各供应商(包括代表该公司的新泽西州个人)发送钓鱼电子邮件,诱骗这些供应商访问钓鱼页面。这些电子邮件看似来自美国政府的合法通信,但实际上是同谋者发送的,其中包含可自动将个人带到钓鱼页面的电子链接。在那里,他们看到了看似 GSA 的网站,并被提示输入他们的机密登录凭据,然后同谋者使用这些凭据对政府系统进行更改,并最终将资金转移给同谋者。
图 1:2021 年 6 月至 2022 年 5 月的新恶意软件变种 13 图 2:2021 年 6 月至 2022 年 5 月新恶意软件变种的日均增长情况 14 图 3:勒索软件攻击的流程,勒索赎金和封口费 15 图 4:勒索邮件示例 16 图 5:2020 年 1 月至 2021 年 11 月数据泄露受害者 17 图 6:按攻击者组织划分的数据泄露受害者 18 图 7:2018 年至 2021 年赎金支付情况 18 图 8:报告期内德国的唯一 IP 指数 24 图 9:报告期内德国每个观察到的僵尸网络的机器人数量 25 图 10:报告期内按时间划分的垃圾邮件 27 图 11:德国商业部门的垃圾邮件比率 28 图 12:性勒索电子邮件示例 29 图13:金融钓鱼邮件示例 30 图 14:2017 年至 2021 年协调的漏洞披露案例 32 图 15:根据 CVSS 严重性评分,2021 年已知漏洞 33 图 16:2020 年至 2021 年 WID 报告 34 图 17:每月已知 DDoS 攻击的平均带宽 42 图 18:慈善诈骗邮件示例 47 图 19:慈善诈骗邮件示例 48 图 20:BSI 总裁 Arne Schönbohm 和 mail.de GmbH 董事总经理 Fabian Bock 59 图 21:换脸结果 65 图 22:报告期内按 KRITIS 部门划分的通知数据 69 图 23:按规模划分的德国公司 72 图 24:图 80 图 25:网络安全联盟的合作方式 81 图 26:CSN 简介 82 图 27:AWG 法令 2015-2021 83 图 28:新恶意网站拦截索引 85 图 29:针对联邦政府的恶意软件攻击索引 85 图 30:针对联邦政府的垃圾邮件索引 86
简介和主要发现 5 人工智能技术 6 什么是人工智能? 6 机器学习 6 神经网络 7 深度学习 9 生成式人工智能 9 大型语言模型 (LLM) 9 “角色”聊天机器人 11 文本编写、编辑和分析 11 学习和头脑风暴 11 创建、调试和重构计算机代码 12 图像和视频模型 12 生成 13 分析 13 编辑 13 语音模型 14 多模态模型 14 显著进步 15 检索增强生成 (RAG) 15 代理工作流 15 小型模型 15 人工智能威胁格局 16 恶意软件开发和计算机黑客攻击 16 欺诈 18 金融欺诈、网络钓鱼诈骗和老年人欺诈 18 高管冒充 18 网络钓鱼电子邮件和短信 19 鱼叉式网络钓鱼 19 老年人欺诈 20 身份欺诈 21 跨行业文件欺诈 21 房地产欺诈22 医疗保健欺诈 22 市场操纵 23
想象一个平行宇宙,人们没有专门用来形容不同交通方式的词语,只有集合名词“交通工具”。他们用这个词来指汽车、公共汽车、自行车、宇宙飞船以及从 A 地到 B 地的所有其他交通方式。这个世界上的对话令人困惑。人们就交通工具是否环保展开了激烈的争论,但没人意识到争论的一方在谈论自行车,而另一方在谈论卡车。火箭技术取得了突破,但媒体的焦点是交通工具如何变得更快,因此人们打电话给汽车经销商(哦,汽车经销商)询问何时会有更快的车型。与此同时,欺诈者利用消费者在交通工具技术方面不知道该相信什么的事实,因此交通工具行业诈骗猖獗。现在,将“汽车”一词替换为“人工智能”,我们就很好地描述了我们生活的世界。人工智能(简称 AI)是一组松散相关技术的总称。ChatGPT 与银行用来评估贷款申请人的软件几乎没有共同之处。两者都被称为 AI,但在所有重要方面——如何
图 1:2021 年 6 月至 2022 年 5 月的新恶意软件变种 13 图 2:2021 年 6 月至 2022 年 5 月新恶意软件变种的日均增长情况 14 图 3:勒索软件攻击过程,勒索赎金和封口费 15 图 4:勒索邮件示例 16 图 5:2020 年 1 月至 2021 年 11 月数据泄露受害者 17 图 6:按攻击者组划分的数据泄露受害者 18 图 7:2018 年至 2021 年赎金支付情况 18 图 8:报告期内德国的唯一 IP 指数 24 图 9:报告期内德国每个观察到的僵尸网络的机器人数量 25 图 10:报告期内按时间划分的垃圾邮件 27 图 11:德国商业部门的垃圾邮件比率 28 图 12:性勒索电子邮件示例29 图 13:金融钓鱼邮件示例 30 图 14:2017 年至 2021 年协调的漏洞披露案例 32 图 15:根据 CVSS 严重性评分,2021 年已知漏洞 33 图 16:2020 年至 2021 年 WID 报告 34 图 17:每月已知 DDoS 攻击的平均带宽 42 图 18:慈善诈骗邮件示例 47 图 19:慈善诈骗邮件示例 48 图 20:BSI 总裁 Arne Schönbohm 和 mail.de GmbH 董事总经理 Fabian Bock 59 图 21:换脸结果 65 图 22:报告期内按 KRITIS 部门划分的通知数据 69 图 23:按规模划分的德国公司 72 图 24:图中认证 80 图 25:网络安全联盟的合作方式 81 图 26:CSN 简介 82 图 27:AWG 法令 2015-2021 83 图 28:新恶意网站拦截索引 85 图 29:针对联邦政府的恶意软件攻击索引 85 图 30:针对联邦政府的垃圾邮件索引 86
1. 央行数字货币 (CBDC) 的出现代表着全球金融体系的突破性转变。私人加密货币已经影响了人们参与金融交易的方式。支持者认为,私人加密货币增加了包容性和透明度,加快了交易速度,并降低了成本,尽管其中大部分好处都未能实现。3 与此同时,当前的加密货币对环境产生了负面影响,也带来了更大的风险,例如与通常不受监管的货币性质相关的风险,包括高波动性、易受诈骗和价值损失。CBDC 有可能改变数字货币在全球范围内发行、分发和使用的方式。全球大多数央行 4 至少对央行数字货币进行了研究,其中几家正在开展试点计划或推出 CBDC。这是对数字、非接触式支付、加密货币和电子商务日益普及的回应,5 而 Covid-19 进一步加速了这一进程。与现有的非数字货币相比,这些数字货币作为一种更灵活的货币工具所提供的可能性也刺激了增长。
● 数字逮捕诈骗 - ED 提交指控表 ● 报告揭示 2023 年对关键防御单位的勒索软件攻击 ● NSCN (IM) 要求第三方干预纳加冲突 ● 印度测试其第一枚高超音速导弹 ● 印度成功测试 K-4 核导弹 ● 四个机械化步兵营获得总统的颜色 ● 三军演习“Poorvi Prahar” ● 印度、日本签署协议,为印度海军战舰提供 UNICORN 桅杆 ● 梅加拉亚邦叛乱组织 HNLC 被禁止五年 ● 中心在 6 个动荡的曼尼普尔地区重新实施 AFSPA ● 首次太空演习“Antariksha Abhyas – 2024” ● 内政部批准 CISF 的第一个全女性营 ● DRDO 进行 LRLACM 的首次测试 ● Shaurya Gatha 项目 ● 2024 年反恐会议 ● 10 名武装分子在袭击中死亡曼尼普尔中央后备警察部队营地
在没有监管护栏的情况下,图像生成人工智能 (AI) 工具的民主化放大了互联网上原有的危害。互联网上 AI 图像的出现始于生成对抗网络 (GAN),这是一种神经网络 1,包含 (1) 创建图像的生成器算法和 (2) 评估图像质量和/或准确性的鉴别器算法。通过生成器和鉴别器之间的几轮协作,最终生成 AI 图像 (Alqahtani、Kavakli-Thorne 和 Kumar,2021 年)。ThisPersonDoesNotExist.com 是由 Uber 工程师创建的网站,可生成逼真人物的 GAN 图像,于 2019 年 2 月推出,令观众惊叹不已 (Paez,2019 年),对广泛诈骗和社会工程等滥用领域的利用具有严重影响。这只是 AI 生成的图像及其在互联网上的利用的开始。随着时间的推移,AI 图像生成逐渐从 GAN 发展到扩散模型,这种模型可以生成比 GAN 更高质量、更多样的图像。扩散模型的工作原理是将高斯噪声 2 添加到原始训练数据图像中
与所有技术一样,GenAI 也容易被滥用,并可能成为网络犯罪分子利用的强大工具。它可用于制作有针对性的、令人信服的网络钓鱼电子邮件或文本和语音消息,这可能会增加不知情的个人被欺骗提供登录凭据或银行详细信息等信息的可能性。然后,通过使用人工智能聊天机器人与个人互动,自动化大规模针对性活动的能力可能会进一步增加受害者的数量,这些人会以为自己与真人有联系,并被说服陷入预定的骗局。不良行为者可以利用冒充或创建深度伪造媒体的可能性来制作媒体来抹黑公众人物、传播虚假叙述以及勒索或诈骗个人。可以处理个人数据以建立更有效的策略来猜测个人的密码以入侵帐户。GenAI 用于生成应用程序代码解决方案的用途已经得到强调,然而,这同样可能被滥用来开发更复杂的恶意软件,这些恶意软件更难被当前系统检测和响应。
