XiaoMi-AI文件搜索系统
World File Search SystemDeepFake
机器学习研究人员
最新出版物●Gohari，M.，Salvi，D.，Bestagini，P.，Adami，N。（2025）。音频功能调查用于唱歌的DeepFake检测，提交给ICASSP 2025。●Gohari，M.，Bestagini，P.，Benini，S.，Adami，N。（2024）。基于频谱图在音乐录音中自动调整人声的检测，在Wifs 2024接受。●Zanardelli，M.，Gohari，M.，Benini，S.，Adami，N。（2024）。基于PGNN的室外图像中鲁棒3D光方向估计的方法，在CBMI 2024接受。●Zanardelli，M.，Moghaddam，M.G。，Leonardi，R.，Benini，S。和N. Adami，2024年。Synthoutdoor：用于3D室外光估计的合成数据集。简要数据，第110700页。
连续的假媒体检测
生成技术在这些技术的炒作驱动的驱动下继续以高度高的速度发展。这种快速的进步严重限制了DeepFake探测器的应用，尽管科学界做出了许多努力，但仍在努力实现对不断变化的内容的足够强大的性能。为了解决这些局限性，在本文中，我们提出了对两种连续学习技术的分析，以一系列短序列的假媒体进行分析。这两个序列都包括来自gan，计算机图形技术和未知来源的复杂和异质范围的深击（生成的图像和视频）。我们的实验表明，持续学习对于减轻对普遍性的需求可能很重要。实际上，我们表明，尽管有一些局限性，但持续的学习方法有助于在整个训练序列中保持良好的表现。为了使这些技术以一种足够健壮的方式工作，但是，序列中的任务必须具有相似性。实际上，根据我们的实验，任务的顺序和相似性会随着时间的推移影响模型的性能。为了解决这个问题，我们表明可以根据其相似性分组任务。这种小措施即使在更长的序列中也可以显着改善。这个结果表明，持续的技术可以与最有前途的检测方法结合使用，从而使它们能够赶上最新的生成技术。除此之外，我们还概述了如何将这种学习方法集成到持续集成和连续部署（CI/CD）中的深层检测管道中。这使您可以跟踪不同的资金，例如社交网络，新的生成工具或第三方数据集，并通过连续学习的集成，可以持续维护检测器。
新兴技术可能加剧恐怖主义威胁
• 数据操纵、算法和机器学习被用于影响和操纵舆论。乌克兰总统泽连斯基呼吁本国公民和士兵向俄罗斯投降的深度伪造视频在乌克兰-24电视台、Facebook USPER、Twitter USPER、VKontakte、YouTube和其他社交网络上流传，引起了广泛的混乱。 • 人工智能正被用于增强和制造智能武器。乌克兰和俄罗斯都在使用可以起飞、降落、独立移动以及获取和处理信息的自主无人机，以避开人员和潜在威胁。 • 先进的恶意软件被用于网络攻击。2022年1月，被称为WhisperGate的恶意软件被用来使乌克兰组织的设备无法操作。
保护的未来还是新的攻击表面？
网络犯罪分子正在使用Genai来增强传统的攻击方法，创建复杂的网络钓鱼活动，深层骗局，甚至利用AI进行基于语音的勒索。“通过语音的验证”解决方案被吹捧为几年前的下一件大事，在RSAC的供应商摊位中明显缺少。安全意识培训也将需要刷新：Genai可以生产网络钓鱼电子邮件，这些电子邮件不是您与笨拙的语法和错别字的经常运行；它们是针对单个或细分市场的最终调谐攻击，即使是最警惕的用户也是如此。缩放会议，电话甚至视频都有可能以先前无法想象的准确性伪造的风险。
FCC 提出首创的人工智能生成的自动拨号和机器人文本规则
这些拟议的自动拨号规则是委员会为保护消费者免受人工智能生成的骗局而采取的一系列行动中的最新举措，这些骗局会误导消费者并误导公众，使消费者能够做出明智的决定。委员会提出了新的透明度标准，要求在广播和电视的政治广告中使用人工智能技术时进行披露。委员会最近通过了一项宣告性裁决，明确指出，在未经被叫方事先明确同意或豁免的情况下，针对消费者的常见自动拨号诈骗中使用的语音克隆技术是非法的。它还提议对使用深度伪造、人工智能生成的语音克隆技术和来电显示欺骗进行明显非法的自动拨号进行巨额罚款，以便在 2024 年 1 月初选之前向潜在的新罕布什尔州选民传播选举错误信息。
FCC 主席提出首创建议
• 一致通过了一项宣告性裁决，明确指出针对消费者的常见自动拨号诈骗中使用的语音克隆技术是非法的。• 提议对使用深度伪造、人工智能生成的语音克隆技术和来电显示欺骗技术进行的明显非法自动拨号进行巨额罚款，以在 2024 年 1 月初选之前向潜在的新罕布什尔州选民传播选举错误信息。• 提议对显然承接这些电话的语音服务提供商处以罚款。• 主席罗森沃塞尔向运营商发送信函，询问公司正在采取哪些措施来防止将人工智能用于政治目的的欺诈性自动拨号。• 与美国国家科学基金会共同举办研讨会，讨论与人工智能相关的主题，包括人工智能给消费者带来的挑战，如自动拨号/自动短信等问题。
将宠物用于生成AI用例”简介
1传统AI是指通过利用历史数据获得的见解来进行预测的AI模型。典型的传统AI模型包括逻辑回归，决策树和条件随机字段。其他用于描述此的术语包括“歧视性AI”。2 Apple Machine Learning Research, Learning with Privacy at Scale , Dec 2017 3 Open Data Institute , Federated Learning: An Introduction , Jan 2023 4 IBM Research, Top Brazilian Bank Pilots Privacy Encryption Quantum Computers Can't Break , Jan 2020 5 Fortune, American Express is trying technology that makes deepfake videos look real , Sep 2020 6 AWS, AWS Clean Rooms ML 7 Microsoft, Phi-3 Technical Report: A Highly Capable Language Model Locally在您的手机上8元负责人AI，我们负责的元AI和Meta Llama 3 9人类，Claude 3模型家族：Opus，Sonnet，Haiku 10 Apple Security Research，Privacy Cloud Compute：AI在云中的新领域，6月2024年6月2024年，
《人工智能法案》的影响
• 生物特征识别系统（尚未被“不可接受的风险”禁止的系统）； • 关键基础设施（例如公用事业的供应）。• 教育和职业培训（例如考试自动评分或排除）； • 就业、工人管理和自营职业机会（例如自动招聘和申请分类）； • 获得和享受基本私人和公共服务（例如福利制度、信贷、保险）； • 可能干涉基本权利的执法系统（例如针对潜在罪犯的自动风险评分、深度伪造检测软件、证据可靠性评分）； • 移民、庇护和边境管制管理（例如旅行证件真实性的验证；签证和庇护申请审查）； • 司法管理和民主进程（例如协助司法当局的法律解释工具）。
2023 年人工智能指数报告 - 斯坦福大学
4 世界上最优秀的新科学家……人工智能？人工智能模型开始迅速加速科学进步，并在 2022 年被用于辅助氢聚变、提高基质操纵效率和产生新抗体。5 有关滥用人工智能的事件数量正在迅速增加。根据跟踪与人工智能道德滥用相关事件的 AIAAIC 数据库，自 2012 年以来，人工智能事件和争议的数量增加了 26 倍。2022 年的一些值得注意的事件包括乌克兰总统泽连斯基投降的深度伪造视频和美国监狱对囚犯使用通话监控技术。这种增长既证明了人工智能技术的使用范围扩大，也证明了滥用可能性的认识。6 几乎每个美国工业领域对人工智能相关专业技能的需求都在增加。
2023 年人工智能指数报告 - 斯坦福大学
4 世界上最优秀的新科学家……人工智能？人工智能模型开始迅速加速科学进步，并在 2022 年被用于辅助氢聚变、提高基质操纵效率和产生新抗体。5 有关滥用人工智能的事件数量正在迅速增加。根据跟踪与人工智能道德滥用相关事件的 AIAAIC 数据库，自 2012 年以来，人工智能事件和争议的数量增加了 26 倍。2022 年的一些值得注意的事件包括乌克兰总统泽连斯基投降的深度伪造视频和美国监狱对囚犯使用通话监控技术。这种增长既证明了人工智能技术的使用范围扩大，也证明了滥用可能性的认识。6 几乎每个美国工业领域对人工智能相关专业技能的需求都在增加。