XiaoMi-AI文件搜索系统
World File Search System训练的
基于预先训练的DeNoising扩散模型
深神经网络（DNNS）在许多AI地球观察应用中（AI4EO）中作为关键解决方案的突出性（AI4EO）上升。然而，它们对对抗例子的敏感性构成了一个关键的挑战，损害了AI4EO算法的可靠性。本文在遥感图像（UAD-RS）中提出了一种新型的通用对抗防御方法，利用预训练的扩散模型来保护DNN免受表现出异质对抗模式的各种对抗性示例。具体而言，使用预训练的扩散模型开发了通用的对抗纯化框架，通过引入高斯噪声以及随后从对抗性示例中对扰动的纯化来减轻对抗的扰动。此外，还引入了自适应噪声水平选择（ANL）机制，以确定具有任务指导的Fréchet成立距离（FID）排名策略的纯化框架的最佳噪声水平，从而提高了纯化性能。因此，仅需要一个预训练的扩散模型来净化每个数据集的各种对抗性示例，这些示例具有异质性的对抗模式，从而大大降低了多个攻击设置的训练工作，同时在没有对抗扰动的情况下保持高性能。对四个异质RS数据集进行的实验结果，重点是场景分类和语义分割，表明UAD-RS的表现优于最先进的对抗性纯化方法，从而为七个常见的遇到的对抗性扰动提供了普遍的防御。com/ericyu97/uad-rs）。代码和预训练的模型可在线获得（https：//github。
精准度与泛化度的结合：通过预训练的 DenseNet 结合全局平均池化和超参数调整来增强脑肿瘤分类
脑肿瘤死亡率高，治疗选择有限，是全球重大健康问题。这些肿瘤是由脑内细胞异常生长引起的，大小和形状各异，因此，对于医疗专业人员来说，通过磁共振成像 (MRI) 扫描手动检测它们是一项主观且具有挑战性的任务，因此需要自动化解决方案。本研究探讨了深度学习（特别是 DenseNet 架构）自动化脑肿瘤分类的潜力，旨在提高临床应用的准确性和通用性。我们利用了 Figshare 脑肿瘤数据集，该数据集包含 233 名患者的 3,064 张 T1 加权增强 MRI 图像，这些患者患有三种常见肿瘤类型：脑膜瘤、神经胶质瘤和垂体瘤。使用来自 ImageNet 的迁移学习评估了四种预训练的深度学习模型——ResNet、EfficientNet、MobileNet 和 DenseNet。DenseNet 实现了最高的测试集准确率 96%，优于 ResNet（91%）、EfficientNet（91%）和 MobileNet（93%）。因此，我们专注于提高 DenseNet 的性能，同时将其视为基础模型。为了增强基础 DenseNet 模型的通用性，我们实施了一种微调方法，该方法采用了正则化技术，包括数据增强、dropout、批量归一化和全局平均池化，并结合了超参数优化。这种增强的 DenseNet 模型实现了 97.1% 的准确率。我们的研究结果证明了 DenseNet 结合迁移学习和微调对脑肿瘤分类的有效性，凸显了其在临床环境中提高诊断准确性和可靠性的潜力。
针对2型糖尿病和膝关节骨关节炎患者的有氧训练的不同强度：一项随机对照试验
多种疾病是一个不断上升的公共卫生挑战，对健康管理和政策产生了重要影响。最常见的多发性模式是心脏代谢和整骨疾病的结合，这是2型糖尿病（T2DM）和骨关节炎的高度普遍共发生所证明的。T2DM与膝关节骨关节炎（KOA）之间的关系引起了人们的关注，因为重叠的患病率和共同的危险因素（例如肥胖症和高级衰老）。研究表明T2DM和KOA之间存在显着关联。一项包括1型DM（T1DM）和T2DM种群的研究观察到KOA与T2DM的关联显着更高，与没有T2DM相比，患有T2DM的个体具有T2DM的个体的可能性比值比（OR）两倍多。有趣的是，这种关联在非肥胖个体中更强，强调了糖尿病的潜在影响超出了肥胖的影响（2）。还有其他研究共同强调了T2DM和KOA之间的显着相关性，这表明将这些条件联系起来的机制超出了肥胖症（3，4）的简单风险因素。锻炼被认为是T2DM治疗的基石，以及饮食和可靠的效率药物（5，6）。尽管锻炼在改善血糖控制，血脂纤维纤维和该组的其他结果方面的有效性已得到充分证明（7-9），但对不同类型运动的相对影响的确定性较小。针对KOA的人，有氧运动传统上是研究最多的运动（8），并招募了大量的肌肉，包括步行，骑自行车，游泳和慢跑。对于KOA，文献中发现的最常见的有氧土地运动的锻炼是固定自行车（10），因为它是一种低体重轴承和非影响力的体育活动形式。已经表明，固定的骑自行车在10到12周内进行的固定循环导致膝盖疼痛和僵硬的减轻，并提高了KOA患者的步行速度和距离（11，12）。由骑自行车引起的康复的积极受益可能归因于腿部肌肉功率输出和动态运动范围的改善（13）。
将预训练的 ViT 与 TCNet 融合以实现增强型 EEG 回归
摘要。脑电图 (EEG) 分析任务对于脑机接口 (BCI) 的发展至关重要。然而，要达到开发稳健、有用的 BCI 的目标，很大程度上取决于 BCI 理解神经动态的速度和准确性。为了实现这一目标，本文详细介绍了预训练视觉变换器 (ViT) 与时间卷积网络 (TCNet) 的集成，以提高 EEG 回归的精度。这种方法的核心在于利用 ViT 的顺序数据处理优势以及 TCNet 的卓越特征提取能力，显着提高 EEG 分析的准确性。此外，我们分析了如何构建最佳补丁以供注意力机制分析的重要性，以平衡速度和准确性。我们的结果表明，回归准确度显著提高，EEGEyeNet 的绝对位置任务的均方根误差 (RMSE) 从 55.4 降至 51.8，优于现有的最先进模型。在不牺牲性能的情况下，我们将该模型的速度提高了一个数量级（最高可提高 4.32 倍）。这一突破不仅为 EEG 回归分析树立了新的标杆，还为未来将 Transformer 架构与针对不同 EEG 数据集的专门特征提取方法相结合的研究开辟了新途径。
在生成无监督的域适应中，持续预训练的有用是如何有用的？
最新的规模突破使强大的生成语言模型的出现以及通过将这些模型调整为各种任务的能力，可以通过将它们投入到提示或指令中。在这种景观中，无监督的域适应性（UDA）或利用从标记的源域到未标记的目标域的知识的问题已被遗留下来，最近仍在解决犯罪性犯罪分类的最新UDA方法。特别是，在生成环境中探索了两种流行的UDA方法，涉及持续的预训练（CPT）和学习域的不变表示形式。在这项工作中，我们评估了CPT对生成UDA的实用性。我们首先进行经验评估，以衡量CPT和强大方法之间促进域的权衡。我们进一步评估了CPT的质量扩展到不同体系结构，调整方法和数据制度的程度。然后，我们通过研究其在目标域上的分类性能在多大程度上使CPT的使用。最后，我们试图了解CPT改善未标记目标域上的分类性能的机制。我们的发现表明，该模型暗中学习了下游任务，同时预测掩盖的单词可以为该任务提供信息。我们的工作将UDA研究的主体与教学调整联系起来，从而朝着更广泛的现代语言模型迈出了第一步。我们的代码可在https://github.com/uppaal/ cpt-generative-uda上找到。
将预训练的视觉模型适应相机原始图像
摘要。SRGB图像现在是计算机视觉研究中预训练视觉模型的主要选择，这是由于它们的易用性和效果存储。同时，原始图像的优点在于它们在可变的现实世界中的较丰富的物理信息。对于基于相机原始数据的计算机视觉任务，大多数现有研究采用了将图像信号处理器（ISP）与后端网络集成的方法，但经常忽略ISP阶段和后续网络之间的相互作用功能。从NLP和CV区域中正在进行的适配器研究中汲取灵感，我们介绍了Raw-Adapter，这是一种旨在将SRGB预先训练的模型调整为相机原始数据的新颖方法。RAW-ADAPTER包括输入级适配器，这些适配器采用可学习的ISP阶段来进行AD-RAW输入，以及模型级别的适配器，以在ISP阶段和随后的高级网络之间建立连接。此外，Raw-Adapter是一个可以在各种Compoter Vision Frameworks中使用的通用框架。在不同的照明条件下进行了丰富的实验，已经显示了我们算法的最先进（SOTA）绩效，证明了其在一系列现实世界和合成数据集中的有效性和效率。代码可在此URL上找到。
计时器：生成预训练的变压器是大时间序列模型
深度学习为时间序列分析的进步做出了显着贡献。仍然，深层模型可以在现实世界中数据筛选场景中遇到性能瓶颈，由于当前基准上的小型模型的性能饱和，可以隐藏它们。同时，大型模型通过大规模的预训练在这些情况下表现出了很大的力量。通过大型语言模型的出现，已经取得了持续的进步，这些模型表现出了前所未有的能力，例如少数通用，ization，可伸缩性和任务通用性，但是在小型深层模型中不存在。为了更改从头开始的训练方案特定小型模型的现状，本文旨在早期开发大型时间序列模型（LTSM）。在预训练期间，我们策划了最高10亿个时间点的大规模数据集，将杂项时间序列统一为单序列序列（S3）格式，并开发GPT型体系结构to-Ward ltsms。为了满足各种应用需求，我们将预测，归档和时间序列的异常检测转换为统一的生成任务。这项研究的结果是一个时间的变压器（计时器），它是由下一个令牌预测预测的生成性培训，并适用于具有有希望的Capabil-Ities作为LTSM的各种下游任务。代码和数据集可在以下网址提供：https：//github.com/thuml/large time-series-模型。
核心训练的最低建议要求
每周。• 获得神经外科服务。• 提供脑电图、肌电图和诱发电位的神经生理学服务。• 每周一次门诊护理，直接负责患者护理。• 获得重症监护病房设施。• 获得神经病理学服务，每月至少进行一次复查。• 获得神经康复服务。• 获得适当的图书馆和教育设施。• 获得相关的国家培训计划
企业训练是陆军作战训练的关键
TADSS的范围在W-TRS下扩展，包括用于实时，虚拟，建设性能力的企业培训服务，以及全球综合培训系统维护和为所有陆军TADSS，仪器系统，范围，范围和合成培训环境设备提供的服务。“ PEO Stri面临着管理不断增长的系统网络（例如培训网络和实时范围），以创建越来越有效的训练环境，以满足战斗人员的需求。”
通过触觉反馈和预训练的对象表示自适应接触式操纵
摘要 - 在基于学习的接触任务中，由于演示数据有限以及培训和部署条件之间的差距，仔细的力控制对于适应环境变化至关重要。这在擦拭任务中尤其重要，因为操纵柔软和可变形的物体（例如，海绵），在擦拭表面高度和海绵特性中，需要适应力的适应力。为了解决此问题，我们介绍了一种将实时触觉反馈与预训练的对象表示结合的方法，从而使机器人能够适应未看到的表面高度和对象属性。在实际硬件上进行了测试，该方法通过分析力轨迹，展示了适应性的显着进步，成功地适应了操纵环境的变化。索引术语 - 摄像模仿学习，基于力的接触 - 富含富含力的操纵，对象表示