这项工作对对抗机器学习领域中欺骗的反向工程(红色)进行了全面探索。它深入研究了机器和以人为中心的攻击的复杂性,从而使人们对如何对对抗性策略进行了整体理解,以保护AI系统。对于以机器为中心的攻击,我们涵盖了用于像素级扰动,对抗显着性图和受害者模型信息的反向工程方法。在以人为中心的域名的领域中,重点转移到生成的图像中的生成模型信息和操纵定位。通过这项工作,我们就与红色相关的挑战和机遇提供了前瞻性的看法。此外,我们在AI安全和值得信赖的计算机愿景领域提供了基础和实用的见解。
撒谎 - 做出欺骗意图的不真实陈述的行为[74] - 长期以来一直是道德哲学中的重要主题[8,35,55]。许多学者都研究了撒谎 - 在哪种情况下,可以接受[13,63,71],对撒谎的看法如何在文化和年龄之间有所不同[15,37]等。但是,从叙事构建,讲故事的角度,撒谎和欺骗可以用作探索和增强写作的主题主题[67,80]。谎言的角色可以为故事增添一定程度的歧义和道德复杂性[83,121];这种欺骗可以帮助表征作品的角色,增加戏剧化和阴谋的水平,并增强读者从故事中脱颖而出的隐喻含义。扩展了在叙事写作中使用欺骗的概念,视频游戏是一种越来越多地用于讲述故事和传达叙事的媒介,以使人们发笑,哭泣和思考[10,45]。与传统的讲故事形式(例如书籍或电影)相反,游戏为玩家提供了高度的互动性,可以控制他们的选择和决定[59]。在这种体验中,游戏可以通过其虚拟代理提供一种社交互动形式 - 不可玩的字符(NPC)[1,5]。与NPC的互动是游戏的重要组成部分,因为它们会影响玩家感到[112],提供情感关系和依恋的车辆[14]的现实主义和沉浸度[14],并增加了玩家从游戏中带走的欣赏和意义的感觉[45]。游戏中互动性的负担能力为玩家提供了代理机构,他们想要移动的方式,他们想要如何互动等。我们考虑了这样一个问题,即这种玩家驱动的互动如何影响并受到信任和启示方面的影响,尤其是NPC和玩家之间的互动。,有着相对稀缺的工作,着眼于玩家如何看待NPC中的真实性,谎言和欺骗。由于自然主义的NPC对话和互动的快速研究改善了越来越重要的差距(例如通过AI方法[72,84])与他们以前的有限和僵化的行为形成对比[60]。我们考虑以下研究问题,从最初启动游戏到游戏后的外卖阶段,也可以构成游戏玩法体验的不同阶段。
这次演讲将概述我最近的AI和人造代理商欺骗,操纵和胁迫的工作。我从对胁迫分析哲学的文献及其相关的操纵和欺骗概念开始。我还考虑了大众媒体的宣传,广告和说服力的理论,以及“ nuding”的HRI和HCI理论,以及它们与影响人类代理人行为的人工代理人伦理的关系。i然后考虑如何通过新兴的AI和机器人技术来挑战这些概念,包括针对性的营销,大型语言模型,伴侣聊天机器人和社交机器人。我旨在为这些概念变得越来越复杂和有能力而建立一个理论框架,以便这些概念如何适用于AI和人造代理。该框架的目的是为这些系统的政策和监管提供信息,以评估并避免这些系统进一步融入社会时最大的有害风险。
您可以从国防部指令 5106.01“国防部监察长 (IG DoD)”(2012 年 4 月 20 日,经修订)、国防部指令 7600.02“审计政策”(2014 年 10 月 16 日,经修订)和国防部指令 7050.03“国防部监察长办公室访问记录和信息”(2013 年 3 月 22 日)中获取有关国防部监察长办公室的信息。我们的网站是 www.dodig.mil 。
本文根据规范(客观)事实和沉思(主观)事实,阐述了传播腐败问题,即降低受众完整和正确接收信息权利的传播行为或事件。文献研究和反思性方法指出了传播腐败理论至少四个主要方面:信息、媒体、背景和行为。本研究还提出了一个公式来衡量和评估传播腐败的程度,考虑到传播需求和愿望、权威和机会、传播权力、受众权利、良知和道德责任。三种传播形式很容易受到传播腐败的影响:说服、想象(在建立印象和洗白印象的努力中)和欺骗。未来的研究可以将此研究作为理论和方法的参考。从实践上讲,本研究的发现和建议有助于在日常和专业活动中预测和减少沟通腐败行为。
Kumar Setty 是 Zakti 安全实验室的负责人。他在网络安全和欺诈风险评估方面拥有 20 多年的经验。Setty 先生曾协助许多私营和上市公司以及政府机构保护其信息。他还协助补救了有史以来最大的一些数据泄露事件。Setty 先生拥有卡内基梅隆大学软件工程硕士学位、伊利诺伊大学工商管理硕士学位以及罗彻斯特大学化学工程学士学位。他是 InfraGard Chicago 的成员,并拥有以下认证:CISSP、HCISPP、CISA、QSA、PCIP、CCSK 和 ITIL。Setty 先生还是门萨和 InterTel 的成员,也是即将出版的新书《CISO 工作手册 - 保护初创企业的指南》的作者。
© 2022 Infosys Limited,印度班加罗尔。保留所有权利。Infosys 认为本文件中的信息在发布之日是准确的;此类信息如有更改,恕不另行通知。Infosys 承认其他公司对本文件中提及的商标、产品名称和其他知识产权的所有权。除非明确允许,否则未经 Infosys Limited 和/或本文件项下任何指定知识产权持有人的事先许可,不得复制、存储在检索系统中或以任何形式或任何方式(电子、机械、印刷、影印、录制或其他方式)传输本文件或其任何部分。
作者:W Steingartner · 2021 · 被引用 44 次 — 在网络攻击挑战日益严峻、资源有限的情况下,威胁以及调查网络安全和网络防御行动...
Acalvio ShadowPlex 自主欺骗解决方案可精确快速地早期检测高级威胁。ShadowPlex 基于 Acalvio 的专利 Deception 2.0 技术。基于独特的 DeceptionFarms ® 架构,ShadowPlex 可在企业级、本地和云工作负载中提供分布式欺骗。高级威胁已发展为离地生存、无文件、无恶意软件,变得更加隐蔽和持久,使其很难被发现。ShadowPlex 将突破性的欺骗技术与高级分析相结合,以检测、确认和调查此类高级威胁。
摘要 — 随着对网络物理系统的攻击日益复杂,欺骗已成为一种有效的工具,通过混淆攻击者的感知来提高系统安全性。在本文中,我们提出了一种欺骗性博弈的解决方案,其中控制代理要在对手存在的情况下满足由共同安全时间逻辑公式指定的布尔目标。代理故意引入不对称信息来创建收益误解,表现为对博弈模型中标记函数的误解。因此,对手无法准确确定博弈的给定结果满足哪个逻辑公式。我们在图上引入了一个称为超博弈的模型来捕捉具有单边收益误解的不对称信息。基于该模型,我们给出了这种超博弈的解决方案,并使用该解决方案来合成隐秘的欺骗策略。具体来说,通过将超博弈简化为具有可达性目标的双人博弈和单人随机博弈,可以开发出欺骗性必胜和欺骗性几乎必胜策略。引入一个运行示例来演示博弈模型和用于策略综合的解决方案概念。索引术语——基于形式化方法的控制;线性时间逻辑;图上博弈;超博弈论。