随着变压器和视觉模型(VLM)的出现,例如剪辑,微调大型预培训模型最近已成为持续学习的普遍策略。这导致发展了许多促使策略以适应基于变形金刚的模型而不会引起灾难性遗忘。但是,这些策略通常会损害预先训练的剪辑模型的原始零射击功能,并难以适应明显偏离预训练数据的域。在这项工作中,我们提出了持续的生成培训,以进行增量及时学习,这是一种简单而新颖的方法,可以减轻遗忘,同时调整剪辑。简而言之,我们采用各种自动编码器(VAE)来学习视觉编码器嵌入空间内的类调节分布。然后,我们利用这些分布来采样新的合成视觉嵌入式,并在随后的任务中训练相应的特定类文本提示。通过对不同领域的广泛实验,我们表明,这种生成的重播方法可以适应新任务,同时改善零射击功能,并使用针对CL方案量身定制的新型度量标准进行了评估。值得注意的是,进一步的分析表明,我们的方法可以通过关节及时调整弥合差距。该代码库可从https://github.com/ aimagelab/mammoth获得。
重放是指重新激活一个或多个神经模式,这些模式与过去清醒时经历的激活模式相似。重放最早是在睡眠期间在生物神经网络中观察到的,现在人们认为它在记忆形成、检索和巩固中起着关键作用。类似重放的机制已被纳入深度人工神经网络中,这些神经网络会随着时间的推移进行学习,以避免灾难性地遗忘先前的知识。重放算法已成功用于监督、无监督和强化学习范式中的各种深度学习方法。在这封信中,我们首次对哺乳动物大脑中的重放和人工神经网络中的重放进行了全面的比较。我们确定了深度学习系统中缺少的生物重放的多个方面,并假设如何使用它们来改进人工神经网络。
图 2 图例,续。(C)在奖励前期(左)、奖励后期(中)和中心端口总时间(右)计算的 SWR 率。操纵队列 n = 1892、684、1157 和 1602 次 NF 试验以及 2022、640、1201 和 1552 次延迟试验;对照队列 n = 2490、2629、2027 和 3021 次试验。对于奖励前期,操纵队列 NF 和延迟试验之间的秩和比较:p = 4.382x10 -258、7.111x10 -83、5.689x10 -214 和 3.285x10 -191。插图:分组比较。操纵队列 NF 试验与控制队列试验:p = 1.126x10 -16 ;操纵队列延迟试验与控制队列试验:p = 0.009。对于奖励后时期,操纵队列 NF 和延迟试验之间的等级和比较:p = 3.646x10 -127 、0.038、6.538x10 -11 和 2.768x10 -
会话重放是重现用户在 Web 或原生移动应用程序上的交互。会话重放可捕获鼠标移动、点击、键入、滚动、滑动、点击等操作。会话重放不是对用户会话的记录。它是基于用户浏览器或应用程序状态变化以及所有底层上下文用户数据重现个人体验。2 16. 更专业的术语来说,每个网站的关键组成部分是文档
• 防火墙 • 防火墙、区域、屏幕、策略 • 状态防火墙、无状态过滤器 • 网络攻击检测 • 屏幕拒绝服务(DoS)和分布式 DoS(DDoS)保护(基于异常) • 重放攻击预防;反重放 • 统一访问控制 (UAC) • TCP 重组以保护碎片数据包 • 暴力攻击缓解 • SYN cookie 保护 • 基于区域的 IP 欺骗 • 畸形数据包保护 • VPN • 隧道:站点到站点、中心辐射型、动态端点、AutoVPN、ADVPN、群组 VPN(IPv4/IPv6/双栈) • 互联网密钥交换 (IKE):IKEv1/IKEv2 • 配置有效负载 • IKE 身份验证算法:MD5、SHA1、SHA-256、SHA-384 • IKE 加密算法:Prime、DES-CBC、3DES-CBC、AEC-CBC、AES-GCM、SuiteB • 身份验证:预共享密钥和公钥基础设施 (PKI X.509) • IPsec(互联网协议安全):身份验证
摘要 开发人员经常会疑惑为什么他们的系统行为与预期不同,他们通常不得不依赖耗时且容易出错的日志文件手动分析。了解物联网 (IoT) 应用程序的行为是一项具有挑战性的任务,因为它们不仅本质上是难以追踪的分布式系统,而且它们通过传感器与环境的集成又增加了另一层复杂性。相关工作建议在系统执行期间记录数据,稍后可以重放这些数据以分析系统。我们将模型驱动开发方法应用于这个想法,并利用数字孪生来收集所需的数据。我们通过应用模型到模型的转换使开发人员能够重放和分析系统的执行。这些转换使用仪器组件和连接器 (C&C) 架构模型,这些模型的组件基于系统数字孪生记录的数据重现系统的环境。我们使用供暖、通风和空调 (HVAC) 案例研究来验证和评估我们方法的可行性。通过促进系统行为的重现,我们的方法降低了理解模型驱动的物联网系统行为的障碍。
几十年来,识别学习背后的神经机制并寻找改进它们的新方法一直是一个重要的研究课题。迄今为止,睡眠是影响记忆巩固的最受关注的因素之一。有人提出,睡眠期间海马皮质会重放记忆痕迹,以逐渐强化记忆表征 (1)。据推测,这种影响是通过以下相互作用实现的:通过主动神经元重放记忆表征来强化相关突触,通过下调非相关突触来锐化表征 (2)。非快速眼动睡眠 (NREM) EEG 特征,例如慢振荡、纺锤波和丘脑涟漪,被认为可以协调这一过程 (3 – 5)。经颅直流电刺激 (tDCS) 等非侵入性脑刺激技术已被引入作为调节记忆表征神经整合的工具 (6)。经颅电刺激装置产生的慢电波(慢振荡 tDCS,so-tDCS;经颅交流电刺激,tACS)已被证明能够诱发内源性慢振荡并增强慢
生成重放:Shin 等人,2017 NeurIPS 突触智能 (SI):Zenke 等人,2017 ICML 弹性权重合并 (EWC):Kirckpatrick 等人,2017 PNAS 不遗忘学习 (LwF):Li & Hoiem,2017 IEEE T 模式分析上下文相关门控 (XdG):Masse 等人,2018 PNAS
- 过去,由于薄弱或缺失的重播保护,我们曾经看到过许多实用和严重的脆弱性。高层协议通常是基于在下层中强烈重放保护的假设而设计的。下层中缺少或弱重播保护通常会损害较高层的机密性,完整性和可用性,即整个中央情报局三合会。重播保护应是所有现代安全协议中的强制性要求。
摘要。过去的研究已经为教师设计了丰富的基于分析的工具,并发现了一些工具对教学和学习的有益影响。然而,当一班学生使用基于人工智能的辅导软件进行自主学习时,关于支持教师的工具设计的知识相对较少。为了应对这一挑战,我们与 20 名中学教师进行了基于设计的研究,创建了一个新颖的实时仪表板 Tutti,它可以帮助教师监控课堂并根据学生辅导软件的分析结果决定帮助哪些学生。Tutti 已全面实施,并通过原型设计和日志重放会话进行了完善。部分实施已在远程教室试行。主要设计特点是双屏设计,其中 (1) 一个班级概览屏幕显示每个学生的状态以及最近事件的通知,以及 (2) 一个深度屏幕,用于详细探索单个学生的工作,同时提供动态重放和交互式注释解决方案视图。该项目对基于实时分析的工具的有效设计提供了新的见解,可指导 K-12 教师设计其他工具来支持学生开展自主学习活动。