XiaoMi-AI文件搜索系统
World File Search System变压器
3D猫：脑肿瘤的通道注意变压器
摘要 - 脑肿瘤诊断是一项具有挑战性的任务，但对于计划治疗以停止或减慢肿瘤的生长至关重要。在过去的十年中，卷积神经网络（CNN）在医学图像中肿瘤的自动分割中的高性能急剧增加。最近，与CNN相比，视觉变压器（VIT）已成为医学成像的稳健性和效率的核心重点。在本文中，我们提出了一个新颖的3D变压器，称为3D catbrats，用于基于最先进的SWIN变压器的磁共振图像（MRIS），用于使用残留块和通道注意模块的最先进的SWIN变压器进行磁共振图像（MRI）。在Brats 2021数据集上评估了所提出的方法，并实现了在验证阶段超过当前最新方法的平均骰子相似性系数（DSC）的定量度量。索引项 - CNN，变形金刚，VIT，语义段
表演探索生成预训练的变压器-2歌词生成
摘要。近年来，自然语言处理领域（NLP）发生了一场革命，文字一代在这一转变中起着关键作用。这种转变不仅限于技术领域，而且还无缝渗透了创意领域，一个很好的例子是歌曲歌词的一代。真正有效的生成模型，例如生成训练的预训练变压器（GPT）-2，需要进行微调作为关键步骤。本文利用了广泛参考的Kaggle数据集的鲁棒性，标题为“歌曲歌词”，仔细探讨了调节三个关键参数的影响：学习率，批处理大小和序列长度。数据集提出了一个引人入胜的叙述，该叙述将学习率视为最有影响力的决定因素，直接影响了产生的歌词的质量和连贯性。在增加批处理大小和扩展序列长度有望增强模型性能的同时，很明显，还有一个饱和点，超出该点的效果受到限制。通过此探索，本文旨在揭开模型校准的复杂世界，并强调战略参数选择在追求抒情卓越方面的重要性。
智能变压器中性点电流优化控制...
摘要 — 在三相四线低压配电系统中，不平衡负载会导致中性电流 (NC) 形成环路，从而导致功率损耗增加和中性电位变化。与传统电力变压器相比，智能变压器 (ST) 具有严格的电流限制以避免过流。然而，其在下游低压电网电压调节方面的优势可以提供调节过度 NC 的能力。本文提出了一种闭环 NC 优化控制，一方面，在满足标准 EN 50160 要求的正常运行中最小化 NC 电流，另一方面，在极端情况下抑制 NC 电流以避免 ST 过流损坏。根据曼彻斯特地区三相四线配电网，通过硬件在环设置和基于不平衡负载曲线下的 350kVA、10kV/400V、ST 供电配电网的案例研究，通过实验测试验证了所提出的控制策略。结果清楚地证明了所提出的NC优化控制策略对NC抑制和最小化的有效性和灵活性。
表演者：一种新型的PPG至ECG重建变压器，用于心血管疾病检测的数字生物标志物
心电图（ECG）是一种捕获心脏活动的电测量，是诊断心血管疾病（CVD）的金标准。但是，由于ECG需要使用用户参与，因此不可避免地进行心脏监测。相比之下，光电学（PPG）提供了易于收集的数据，但其精度有限限制了其临床用法。为了确定这两个信号的优势，最近的研究不适合将PPG信号重新构成到ECG的各种深度学习技术；但是，缺乏文本信息以及降低噪声生物医学信号的能力最终会限制模型的影响。在这项研究中，我们提出了一种基于变压器的新型体系结构，可从PPG重建ECG，并将PPG和重建的ECG与CVD检测的多种方式相结合。此方法是第一次在生物医学波形重构上进行了变压器序列到序列转换，并结合了PPG和ECG的优势。我们还创建了基于斑块的注意（SPA），这是一种效率方法，用于编码/解码生物医学波形。通过获取各种序列长度并捕获交叉点连接，SPA最大程度地提高了本地特征和全局上下文反复的信号操作。所提出的体系结构在BIDMC数据库上生成了0.29 RMSE的状态性能，以重新构建PPG到ECG，超过了先前的研究。我们还在模拟III数据集上评估了该模型，在CVD检测中达到了95.9％的精度，并在PPG-BP数据集中评估了该模型，在相关的CVD糖尿病检测中达到了75.9％的精度，表明其一般能力。作为一种概念证明，一种名为Pearl（原型）的耳环可穿戴式可穿戴，旨在扩大护理点（POC）医疗保健系统。
多模式推理的问题意识视力变压器
视觉语言（VL）模型已获得了显着的重点，从而在多模式推理方面取得了显着进步。这些体系结构通常包括视觉编码器，大型语言模型（LLM）和一个将视觉特征与LLM的代表空间保持一致的投影模块。尽管他们成功了，但仍然存在一个关键的限制：愿景编码过程仍然与用户查询相关，通常是以与图像相关的问题的形式。因此，所得的视觉特征可能无法最佳地调整图像的特定元素。为了解决这个问题，我们介绍了QA-Vit，这是一种问题的多模式原因，这是一种问题，将问题意识直接嵌入到视觉编码器中。此集成导致动态视觉特征，重点是提出问题的相关图像方面。QA-VIT是模型 - 静态的，并且可以有效地将其置于任何VL体系结构中。广泛的经验证明了将我们的方法应用于各种多模式体系结构的有效性，从而导致跨不同任务的一致改进，并展示了其以增强视觉和场景文本理解的能力。
通过社交媒体和变压器模型了解躁郁症：挑战和见解
通过社交媒体和变形金刚模型了解躁郁症：挑战和见解葡萄etsrivastava*，Lokesh Boggavarapu*，Anthony Shin*，Anthony Shin*，Avisek Datta，Yingda Lu，runa bhaumik **伊利诺伊州芝加哥**伊利诺伊州芝加哥大学的同等贡献者**相应的社交媒体* （BD）仍然显着未充满意。复杂性是由与抑郁和焦虑相关的语言模式的重叠产生的，使准确的识别挑战。本研究旨在基准在Reddit帖子上训练的各种变压器模型的性能，以将BD与其他心理健康状况区分开。使用高性能生成AI模型（GPT-4O）作为基准，分析表明某些开放小型模型（ex。MISTRAL，LLAMA）在捕获与BD相关的微妙语言线索方面表现出色，以高精度和召回率达到高达0.86的F1得分。但是，BD经常被错误分类为抑郁症（23％–51％），正常（2％–41％）和焦虑症（1％–7％），强调了对改进方法的需求。该研究强调了特定于域数据的重要性以及更细微的模型以增强BD检测准确性，为更有效的心理健康监测和及时干预铺平了道路。
边缘视觉变压器：对模型压缩和加速策略的全面调查
近年来，视觉变形金刚（VIT）已成为计算机视觉任务（例如图像分类，对象检测和分割）的强大而有前途的技术。与依赖层次特征提取的卷积神经网络（CNN）不同，VIT将图像视为斑块和杠杆自我发项机制的序列。但是，它们的高计算复杂性和内存要求对资源受限的边缘设备部署构成重大挑战。为了解决这些局限性，广泛的研究集中在模型压缩技术和硬件感知加速策略上。尽管如此，一项全面的审查系统地将这些技术及其在精确，效率和硬件适应性方面进行了对边缘部署的适应性的权衡。这项调查通过提供模型压缩技术的结构化分析，用于推理边缘的软件工具以及VIT的硬件加速策略来弥合此差距。我们讨论了它们对准确性，效率和硬件适应性的影响，突出了关键的挑战和新兴的研究方案，以推动Edge平台上的VIT部署，包括图形处理单元（GPU），张量处理单元（TPU）（TPU）和现场编程的门阵列（FPGAS）。目标是通过当代指南，以优化VIT，以在边缘设备上进行有效部署，以激发进一步的研究。
边缘视觉变压器：对模型压缩和加速策略的全面调查
近年来，视觉变形金刚（VIT）已成为计算机视觉任务（例如图像分类，对象检测和分割）的强大而有前途的技术。与依赖层次特征提取的卷积神经网络（CNN）不同，VIT将图像视为斑块和杠杆自我发项机制的序列。但是，它们的高计算复杂性和内存要求对资源受限的边缘设备部署构成重大挑战。为了解决这些局限性，广泛的研究集中在模型压缩技术和硬件感知加速策略上。尽管如此，一项全面的审查系统地将这些技术及其在精确，效率和硬件适应性方面进行了对边缘部署的适应性的权衡。这项调查通过提供模型压缩技术的结构化分析，用于推理边缘的软件工具以及VIT的硬件加速策略来弥合此差距。我们讨论了它们对准确性，效率和硬件适应性的影响，突出了关键的挑战和新兴的研究方案，以推动Edge平台上的VIT部署，包括图形处理单元（GPU），张量处理单元（TPU）（TPU）和现场编程的门阵列（FPGAS）。目标是通过当代指南，以优化VIT，以在边缘设备上进行有效部署，以激发进一步的研究。
使用分层变压器前序和早期基于映射的基因组大小估计
现在几乎可以测量植物的所有部分，但是评估植物基因组的大小仍然具有挑战性。尽管可以在显微镜下测量染色体大小（Albini，1994），但通常未知单细胞中所有DNA分子的合并长度。在第一个拟南芥基因组序列释放近25年后，对于最重要的模型之一而言，这甚至是正确的。最初，诸如Reassociation Kinetics之类的生化方法（Leutwiler等人，1984），Feulgen光度法（Bennett＆Smith，1991），定量凝胶印迹杂交（Francis等人。，1990年），Southern印迹（Fransz等人，2002）和流式细胞仪（Arumuganathan＆Earle，1991; Bennett＆Leitch，2011）。不幸的是，这些实验方法依赖参考基因组（Bennett等人。，2003）。下一代测序技术的兴起（Metzker，2010年）启用了基于K-MER配置文件或唯一K-Mers计数的新方法（Li＆Waterman，2003;Marçais＆Kingsford，2011年）。水母（Marçais＆Kingsford，2011年），Kmergenie（Chikhi＆Medvedev，2014年），
ali-u-net：用于DNA序列多个序列比对的卷积变压器神经网。概念证明
我们报告了能够对齐多个核苷酸序列的卷积变压器神经网络。神经网络基于图像分割中常用的U-NET，我们采用了该神经网络将其用于将未对准序列转换为对齐序列的U-NET。对于对齐场景，我们的ALI-U-NET神经网络已经接受过培训，在大多数情况下，它比MAFFT，T-Coffee，Muscle和Clustal Omega等程序更准确，同时比单个CPU核心上的类似准确的程序快得多。的限制是，神经网络仍针对某些对齐问题进行了专门训练，并且对于以前从未见过的差距分布而表现不佳。此外，该算法当前与48×48或96×96核苷酸的固定尺寸比对窗口一起工作。在此阶段，我们将研究视为概念证明，确信目前的发现可以扩展到更大的一致性，并在不久的将来将其扩展到更复杂的一致性方案。