安全性和隐私性是现代通信系统的关键方面 [1]。经典的窃听信道最早由 Wyner [2] 提出,用于模拟存在被动窃听者时的通信。另一方面,Merhav 和 Shamai [3] 提出了一种不同的通信系统,其隐私要求是掩蔽。在这种情况下,发送方通过无记忆状态相关信道 p Y | X,S 传输序列 X n ,其中状态序列 S n 具有固定的无记忆分布,不受传输影响。X n 的发送方被告知 S n ,并需要向接收方发送信息,同时限制接收方可以了解的有关 S n 的信息量。掩蔽设置也可以看作是与不受信任方的通信,其中 Alice 希望向 Bob 发送有限量的信息,并隐藏信息源 [4, 5]。相关设置也在 [6–8] 中进行了考虑。量子信息领域在实践和理论方面都在迅速发展 [9]。通过量子信道的通信可以分为不同的类别。对于经典通信,霍尔沃-舒马赫-威斯特摩兰 (HSW) 定理为量子信道的容量提供了一个正则化(“多字母”)公式 [10, 11]。虽然这种公式的计算一般难以处理,但它提供了可计算的下限,并且在特殊情况下可以精确计算容量。另一个有趣的场景是 Alice 和 Bob 共享纠缠资源。虽然纠缠可用于产生共享随机性,但它是一种更强大的辅助 [12]。例如,使用超密集编码,纠缠辅助可将无噪声量子比特信道上经典消息的传输速率提高一倍。Bennett 等人 [13] 在量子互信息方面充分表征了有噪声量子信道的纠缠辅助容量。Boche 等人 [14] 在编码器中使用信道状态信息 (CSI) 处理经典量子信道。容量是根据因果 CSI 确定的,并且正则化
该项目将为海象科和海马科食肉动物(分别为太平洋海象和加州海狮)提供听觉数据,以便比较这些海洋哺乳动物类群之间的声学敏感性并支持环保合规工作。海洋生物资源 (LMR) 计划为该项目提供资金,补充了美国支持的一项持续努力。鱼类和野生动物管理局与美国地质调查局合作,对太平洋海象 (Odobenus rosmarus divergens) 的听觉掩蔽进行了特征分析,以同时产生噪音。LMR 的额外支持使项目团队能够将研究范围扩大到包括加州海狮 (Zalophus californianus) 并收集其他比较数据。这项研究将为被指定为“其他海洋食肉动物”的海洋哺乳动物功能性听力组提供与噪音暴露标准相关的新信息。这是一组不属于海豹科(真正的海豹)的两栖海洋哺乳动物,包括海狮、海狗、海象和海獭。它们是听觉和噪音影响方面研究最少的海洋哺乳动物之一,但它们却占据着对美国海军行动至关重要的北太平洋和北极水域。
摘要。嵌入式设备上的每个加密实现都容易受到侧向通道攻击的影响。为了防止这些攻击,主要的对策包括将每个敏感变量分开并独立处理。随着旨在抵抗量子计算机及其操作复杂性的新算法的即将到来,此保护代表了一个真正的挑战。在本文中,我们提出了对保护自行车加密系统解码器免受一阶攻击的早期尝试的攻击。此外,我们还引入了一个新的程序,用于对解码器的高阶掩盖,并最新进行了最新的改进。我们还提出了整个密码系统的第一个完全掩盖的实现,包括关键生成和封装。最终,为了评估对策的正确性并启动进一步的比较,我们在C中实施了对策,并提供了其性能的基准。
从设计角度来看,获得可变滤波器的可能性取决于多层涂层的光谱特性与某些层(如果不是全部)厚度的依赖关系。在由两个金属镜形成的法布里-珀罗滤波器的特定情况下,腔层厚度的简单变化会使其中心波长发生偏移。这种简单的结构具有自然提供宽抑制带的优势,但不足以提供尖锐的过渡带通,并导致高吸收损耗。为了改善最后一点,一种解决方案是使用所谓的感应透射滤波器方法,其中金属层放置在介电法布里-珀罗滤波器腔内电场分布最小处 [2-4]。然而,生产具有任意指定抑制、宽度和锐度特性的滤波器的唯一方法是使用标准的全介电方法,该方法由多腔法布里-珀罗结构与附加介电短波长和长波长通断滤波器相关联形成。在这种情况下,所有层的厚度必须通过一个公共因子进行调整,从而产生比例的波长偏移,以产生可变滤波器[5,6]。
按照掩蔽语言建模 (MLM) 目标进行训练的多语言预训练语言模型 (multiPLM) 通常用于双语文本挖掘等跨语言任务。然而,这些模型的性能对于低资源语言 (LRL) 仍然不是最优的。为了改进给定 multiPLM 的语言表示,可以进一步对其进行预训练。这称为持续预训练。先前的研究表明,使用 MLM 进行持续预训练,随后使用翻译语言建模 (TLM) 进行预训练可以改进 multiPLM 的跨语言表示。然而,在掩蔽期间,MLM 和 TLM 都会给予输入序列中的所有标记相同的权重,而不管标记的语言属性如何。在本文中,我们引入了一种新颖的掩蔽策略,即语言实体掩蔽 (LEM),用于持续预训练步骤,以进一步改进现有 multiPLM 的跨语言表示。与 MLM 和 TLM 相比,LEM 将掩码限制在语言实体类型名词、动词和命名实体上,这些实体在句子中占据更重要的地位。其次,我们将掩码限制在语言实体范围内的单个标记上,从而保留更多上下文,而在 MLM 和 TLM 中,标记是随机掩码的。我们使用三个下游任务评估 LEM 的有效性,即双语挖掘、并行数据管理和代码混合情感分析,使用三种低资源语言对英语-僧伽罗语、英语-泰米尔语和僧伽罗语-泰米尔语。实验结果表明,在所有三个任务中,使用 LEM 持续预训练的多 PLM 优于使用 MLM+TLM 持续预训练的多 PLM。
虽然扩散模型擅长生成高质量图像,但先前的研究报告称,在语言建模中,扩散和自回归 (AR) 方法之间存在显著的性能差距。在这项工作中,我们表明简单的掩蔽离散扩散比以前认为的更有效。我们应用了一种有效的训练方法,可以提高掩蔽扩散模型的性能,并推导出一个简化的 Rao-Blackwellized 目标,从而带来额外的改进。我们的目标形式简单——它是经典掩蔽语言建模损失的混合——可用于训练仅编码器的语言模型,这些模型可以接受高效的采样器,包括可以像传统语言模型一样半自回归生成任意长度文本的采样器。在语言建模基准上,一系列使用现代工程实践训练的掩蔽扩散模型在扩散模型中达到了新的最先进水平,并接近 AR 困惑度。我们在项目页面上提供了代码 1 以及博客文章和视频教程 2:
演讲:详情 生物制剂节 (10 月 17 日),巴塞尔 演讲者:Aurore Morello 博士,OSE Immunotherapeutics 研究主管 “OSE- Cytomask 技术:用于靶向递送的顺式去掩蔽细胞因子技术” 10 月 17 日,11:30 蛋白质和抗体工程峰会 (PEGS) 欧洲峰会 (11 月 7 日),巴塞罗那 演讲者:Nicolas Poirier 博士,OSE Immunotherapeutics 首席执行官 “OSE-CYTOMASK:具有不可裂解接头的顺式去掩蔽细胞因子技术” 11 月 7 日,16:40 抗体治疗交流会 (11 月 18 日),布鲁塞尔 演讲者:Aurore Morello 博士,OSE Immunotherapeutics 研究主管 “应对最佳双特异性和免疫细胞因子工程所面临的挑战” 11 月 18 日,09:05 - 10:05 关于 OSE Immunotherapeutics OSE Immunotherapeutics 是一家生物技术公司,致力于开发免疫肿瘤学 (IO) 和免疫炎症 (I&I) 领域的一流资产。该公司目前均衡的一流临床管线包括:
从非侵入性脑电图 (EEG) 重建自然语言作为脑机接口 (BCI) 的语言解码技术有着巨大的应用前景。然而,基于 EEG 的语言解码仍处于起步阶段,面临着一些技术问题,例如:1)缺乏能够有效结合跨模态(EEG 和文本之间)自学习与 EEG 特征或文本序列的模态内自重建的混合策略;2)未充分利用大型语言模型 (LLM) 来增强基于 EEG 的语言解码。为了解决上述问题,我们提出了对比 EEG-T 文本询问自动编码器 (CET-MAE),这是一种新颖的模型,它通过专用的多流编码器在 EEG 和文本之间和内部协调复合自监督学习。此外,我们开发了一个名为 E2T-PTR(使用预训练可迁移表示进行 EEG 到 T 文本解码)的框架,该框架利用预训练模块以及来自 CET-MAE 的 EEG 流,并进一步使 LLM(特别是 BART)能够从 EEG 序列中解码文本。在流行的文本诱发 EEG 数据库 ZuCo 上进行的全面实验证明了 E2T-PTR 的优越性,它在 ROUGE-1 F1 和 BLEU-4 得分上分别比基线框架高出 8.34% 和 32.21%。我们提出的预训练 EEG-Text 模型显示出改善涉及 EEG 和文本的下游任务的潜力。这为其在内部语音 BCI 范式中的应用开辟了有希望的途径,值得进一步研究。
摘要。本文介绍了 DreamDiffusion,这是一种直接从脑电图 (EEG) 信号生成高质量图像的新方法,无需将想法转化为文本。DreamDiffusion 利用预先训练的文本到图像模型,并采用时间掩蔽信号建模来预训练 EEG 编码器,以获得有效且稳健的 EEG 表示。此外,该方法进一步利用 CLIP 图像编码器提供额外的监督,以更好地将 EEG、文本和图像嵌入与有限的 EEG-图像对对齐。总体而言,所提出的方法克服了使用 EEG 信号进行图像生成的挑战,例如噪声、信息有限和个体差异,并取得了令人鼓舞的结果。定量和定性结果证明了所提方法的有效性,这是朝着便携式和低成本“思想到图像”迈出的重要一步,在神经科学和计算机视觉领域具有潜在的应用。
脑电图 (EEG) 表征学习的自监督方法面临着 EEG 数据固有的三个特定挑战:(1)低信噪比对所学习表征的质量提出挑战,(2)由于受试者间差异等因素,幅度范围从非常小到相对较大,使模型有可能受较高幅度范围的支配,以及 (3)连续值序列中缺乏明确的分割,这可能导致信息量较少的表征。为了应对这些挑战,我们引入了 EEG2Rep,一种用于从 EEG 进行自监督表征学习的自预测方法。 EEG2Rep 的两个核心新颖组件如下:1) EEG2Rep 不是学习从原始 EEG 预测掩蔽输入,而是学习在潜在表示空间中预测掩蔽输入;2) EEG2Rep 不是使用传统的掩蔽方法,而是使用一种新的语义子序列保留 (SSP) 方法,该方法提供信息丰富的掩蔽输入来指导 EEG2Rep 生成丰富的语义表示。在对 6 种具有受试者差异的不同 EEG 任务进行的实验中,EEG2Rep 的表现明显优于最先进的方法。我们表明,我们的语义子序列保留改进了自我预测文献中现有的掩蔽方法,并发现保留 50% 的 EEG 记录将在所有 6 个任务上平均获得最准确的结果。最后,我们表明 EEG2Rep 对噪声具有鲁棒性,可以解决 EEG 数据中存在的一个重大挑战。模型和代码可在此处获取:https://github.com/Navidfoumani/EEG2Rep