XiaoMi-AI文件搜索系统
World File Search System诈骗者
诈骗者如何利用人工智能以及我们如何......
如今，生成式人工智能的能力已经非常强大，以至于大多数人都无法区分计算机生成的内容和人类生成的内容。这归因于几个因素，其中最重要的是转换器。2017 年，转换器的诞生使人工智能程序能够以更快的速度完成更多工作。自这一突破以来，我们看到了各种形式的人工智能的先进能力。机器人技术、计算机视觉、深度学习和生成式人工智能都在各自的任务上做得更好。在生成式人工智能领域，这意味着我们已经看到了创建、检测和访问合成媒体的进步，通常称为深度伪造（图像）或语音克隆。在其他领域，这意味着人工智能也在进步；我们无法免费获得这些进步的成果。
垃圾邮件发送者和诈骗者如何利用人工智能生成的
论文摘要 ● 我们研究了 120 个 Facebook 页面，每个页面发布了至少 50 张 AI 生成的图片，将页面分为垃圾邮件、诈骗和“其他创建者”类别。有些是同一管理员运营的协调页面集群。截至 2024 年 3 月 5 日，这些页面的平均关注者数量为 128,877，中位关注者数量为 71,000。● 这些图片总共获得了数亿次互动和曝光。包含 AI 生成的图片的帖子是 2023 年第三季度 Facebook 上浏览量最高的 20 条内容之一（浏览量达 4000 万次，互动量超过 190 万次）。● 垃圾页面使用点击诱饵策略，并试图将用户引导至平台外的内容农场和低质量域。诈骗页面试图销售不存在的产品或让用户泄露个人信息；有些页面在被盗页面上发布 AI 生成的图像。● Facebook Feed（以前称为“新闻提要”）有时会向用户显示 AI 生成的图像，即使他们没有关注发布这些图像的页面。我们怀疑 AI 生成的图像出现在用户的 Feed 中，是因为 Facebook Feed 排名算法会推广可能产生参与度的内容。在过去三年中，Facebook 增加了出现在用户 Feed 中的“无关帖子”（来自用户未关注的页面的帖子）的百分比。媒体报道称，与 AI 生成的图像互动通常会导致用户收到更多 AI 生成的图像内容的推荐；这也是我们在自己的 Feed 中遇到的轶事经验。● 对人工智能生成的图像的评论表明，许多用户并不知道这些图像是合成的，但一部分用户发表评论或信息图提醒其他人，并警告他们小心诈骗。观众的误解凸显了标签和额外透明度措施的重要性。● 在我们的样本中，一些发布未标记的人工智能生成图像的页面也使用了已知的欺骗性做法，例如帐户盗窃或接管，并且表现出可疑的关注者增长。
欺诈警报 - DHS OIG - 国土安全部
诈骗警报：国土安全部冒充骗局 美国国土安全部 (DHS) 监察长办公室 (OIG) 公共服务公告重点介绍了诈骗者如何冒充国土安全部人员欺骗公众以及如何避免成为受害者。 背景 每年，国土安全部监察长办公室都会收到数百起诈骗者冒充国土安全部员工欺骗公众的报告。冒充者会伪造真实的国土安全部电话号码，并创建类似于国土安全部电子邮件的电子邮件地址，以显得合法。有些人甚至发送真实或篡改的执法证件图片。冒充者试图说服受害者提供个人身份信息、密码、信用卡或银行号码，或者使用汇款服务或非常规方法付款。 最新趋势 诈骗者通常以移民、老年人、少数群体或与外国有联系的人为目标。最常见的诡计包括声称：
研究文章垃圾邮件发送者和诈骗者如何利用 Facebook 上的 AI 生成图像来增加受众关于人工智能 (AI) 图像生成器（如 DALL-E 和 Midjourney）的风险的大部分研究和讨论都集中在它们是否会被用来在政治话语中注入虚假信息。我们表明，垃圾邮件发送者和诈骗者（似乎是受到利润或影响力而不是意识形态的驱使）已经在使用 AI 生成的图像在 Facebook 上获得显著的关注。有时，Facebook Feed 会向既没有关注发布图片的页面也没有意识到图片是 AI 生成的用户推荐未标记的 AI 生成的图片，这凸显了随着 AI 模型的激增，需要提高透明度和出处标准。作者：Renée DiResta (1)、Josh A. Goldstein (2) 所属机构：(1) 美国斯坦福大学斯坦福互联网观察站，(2) 美国乔治城大学安全与新兴技术中心 引用方式：DiResta, R., & Goldstein, J. A. (2024)。垃圾邮件发送者和诈骗者如何利用 Facebook 上的 AI 生成图像来增加受众。哈佛肯尼迪学院 (HKS) 错误信息评论，5 (4)。收稿日期：2024 年 4 月 21 日。接受日期：2024 年 7 月 24 日。发表日期：2024 年 8 月 15 日。研究问题
研究文章 垃圾邮件发送者和诈骗者如何利用 Facebook 上的 AI 生成图像来增加受众 关于人工智能 (AI) 图像生成器（例如 DALL-E 和 Midjourney）的风险的大部分研究和讨论都集中在它们是否可用于将虚假信息注入政治话语。我们表明，垃圾邮件发送者和诈骗者（似乎是出于利润或影响力而不是意识形态的动机）已经在使用 AI 生成的图像在 Facebook 上获得显著的关注。有时，Facebook Feed 会向既不关注发布图像的页面也不意识到图像是 AI 生成的用户推荐未标记的 AI 生成的图像，这凸显了随着 AI 模型的激增，需要提高透明度和出处标准。作者：Renée DiResta (1)、Josh A. Goldstein (2) 所属机构：(1) 美国斯坦福大学斯坦福互联网观测站，(2) 美国乔治城大学安全与新兴技术中心 引用方式：DiResta, R., & Goldstein, J.A.(2024)。垃圾邮件发送者和诈骗者如何利用 Facebook 上的 AI 生成图像来增加受众。哈佛肯尼迪学院 (HKS) 错误信息评论，5 (4)。收到日期：2024 年 4 月 21 日。接受日期：2024 年 7 月 24 日。发布日期：2024 年 8 月 15 日。研究问题
以下是佛罗里达州和全国范围内发生的公用事业诈骗的例子：
佛罗里达州的许多公用事业公司都是公用事业反诈骗联盟 (UUAS) 的成员。UUAS 由 100 多家电力、天然气、水和废水公用事业公司组成，帮助教育居民如何保护自己免受诈骗。UUAS 传播有关可疑行为以及诈骗者针对客户使用的不断变化的策略的意识。如果客户不确定来电者的真实性或服务人员的身份，或者怀疑有任何欺诈活动，请务必直接致电公用事业公司。
请注意
请注意，诈骗和骗子正在崛起！据最近的报道，现役军人及其家人以及退伍军人都面临着被骗子欺骗的风险。令人沮丧的是，去年，骗子成功地从现役军人、退伍军人及其家人手中骗取了惊人的 2.67 亿美元。欺诈者蓄意欺骗，意图窃取您辛苦赚来的钱、信用或敏感的个人信息。诈骗类型 慈善诈骗——慈善诈骗是指小偷冒充真正的慈善机构或编造听起来真实的慈善机构名称以从您那里骗取钱财。这类骗局通常在节假日期间以及自然灾害和紧急情况（如风暴、野火或地震）期间增多。当任何慈善机构打电话要求捐款时，请小心，尤其是那些声称他们正在跟进您不记得做出的捐款承诺的慈善机构。债务催收骗局 – 大多数债务催收员会联系您，以收取您欠下的合法债务。但有些骗子会冒充债务催收员，让您偿还您不欠的债务或您已经付过的债务。他们会联系您，并要求您验证他们已经拥有的帐户信息，如果他们是从欠债的企业合法打来的。亲人骗局 – 这种骗局涉及接到某人的电话，他们声称自己是代表亲人联系您。然后，诈骗者会代表经历紧急情况的亲人索要钱财、礼品卡或电汇。电话营销 - 这种骗局是一种直接营销方法，销售人员通过电话或通话期间安排的后续面对面或网络会议预约，招揽潜在客户购买产品、订阅或服务。防止被骗的方法 保持警惕并注意有助于识别潜在诈骗者的警告信号。诈骗者经常通过未经请求的电话、电子邮件或短信联系个人。这些个人或团体经常采用欺骗手段来利用毫无戒心的受害者来获取经济利益。为了保护您自己和您辛苦赚来的钱，请务必仔细检查任何个人信息请求，并立即联系发件人，确保您收到的来自政府机构或银行的任何电子邮件都是真实的。除非您确信附件或电子邮件中的链接是安全的，否则请勿打开它们或点击它们。验证任何索要敏感信息（例如您的出生日期、社会安全号码、帐号和密码）的人的身份。如果您接到慈善机构的电话，请询问详细信息，包括地址和电话号码。通过慈善机构的网站或可信赖的第三方来源查找该慈善机构，以确认该慈善机构是真实的。
警告虚假的新冠肺炎疫苗调查
知识产权中心警告公众谨防疫苗接种后调查诈骗 越来越多的受害者在接种 COVID-19 疫苗后接到电子邮件和/或短信联系，要求参加欺诈性的疫苗接种后调查，并承诺调查结束后给予奖品或现金。受害者被告知可以从各种免费奖品中进行选择，例如 iPad Pro，并且只需支付运费和手续费即可收到奖品。然后，受害者提供他们的信用卡信息并被收取运费和手续费，但永远不会收到承诺的奖品。受害者将他们的个人身份信息 (PII) 暴露给诈骗者，从而增加了他们身份被盗和/或出售的可能性。
人工智能与零售投资：骗局与有效......
BIT Canada 和 OSC 的研究和行为洞察团队进行了一项在线随机对照试验 (RCT)，以测试有前景的缓解策略的有效性，以及更好地证实诈骗者使用生成式 AI 所带来的危害。在这个实验中，超过 2000 名加拿大参与者在模拟的社交媒体环境中向六个投资机会投资了假设的 10,000 美元。投资机会推广了 ETF、加密货币以及投资咨询服务（例如，机器人咨询或 AI 支持的交易算法），并包括合法投资机会、传统骗局和/或 AI 增强骗局的组合。然后，我们观察了参与者如何在投资机会中分配资金。一些参与者接触了以下两种缓解技术中的一种：
GrandBridge Energy 向客户发出有关新产品的警告...
安大略省布兰特福德和剑桥（2024 年 5 月 10 日）——GrandBridge Energy 警告其客户，如果接到个人打来的有关逾期付款、押金和智能电表费用的可疑电话，要小心谨慎。最近，诈骗者复制了 GrandBridge Energy 的电话录音，误导客户认为是 GrandBridge Energy 打来的电话。如果客户接听原始诈骗电话，他们将被要求提供个人和账户详细信息。请记住，如果 GrandBridge Energy 打来电话，公用事业公司已经存档了这些信息，不会要求您提供。同时，客户被指示拨打一个未知的 1-800 号码。请记住，只拨打客户账单和公司网站 grandbridgeenergy.com 上显示的 GrandBridge Energy 电话号码。1-877-871-2215、519-621-3530 或 519-751-3522。避免诈骗的提醒和安全提示如果您通过电话、电子邮件或亲自收到可疑的恳求，请注意以下几点：
人工智能与保险欺诈：四大危险与四大机遇
人工智能技术可以帮助犯罪分子伪造和篡改照片。在社交媒体上流传的一张图片显示，美国前总统唐纳德·特朗普正在浏览一架橙色囚服。另一张图片则描绘了这位前总统在街上与警察扭打在一起的场景。这两张照片看起来都非常逼真，但其实都是使用人工智能工具伪造的。人工智能视频系统也可供犯罪分子使用，使其能够操纵现有视频片段来制作虚假视频。犯罪分子甚至可以伪造 Skype 或 Zoom 上的视频通话，窃取他人的形象和身份来推进他们的诈骗活动。保险公司的高管或员工可能就是这些计划的受害者。例如，诈骗者以真实银行专业人士的名义和形象创建虚假的社交媒体账户。这些账户显示这些人支持加密货币或提供虚假贷款优惠。