XiaoMi-AI文件搜索系统
World File Search SystemTransformer
多个对象跟踪的变压器：探索视觉
多对象跟踪（MOT）是各个领域的关键任务，例如官能分析，监视和自动驾驶汽车。联合检测和追踪范式已经进行了广泛的研究，在训练和部署经典的逐个检测范式的同时，在实现先进的性能的同时，训练和部署更快，更方便。本文通过利用现行的卷积神经网络（CNN）和新型视觉变压器技术局部性来探讨增强MOT系统的可能性。在计算机视觉任务中采用的变压器中有几种延期。虽然变形金刚擅长建模全局信息以进行长时间的嵌入，但缺少学习本地特征的局部机器。这可能导致小物体的疏忽，这可能会导致安全问题。我们将TransTrack MOT系统与localvit所赋予的局部性机制相结合，并发现该位置增强系统在MOT17数据集上比基线TransTrack优于基线转移。
基于稀疏视图计算机断层扫描
摘要提出了一种新的稀疏 - 视图计算机断层扫描重建方法，该方法利用了变压器网络的恢复能力，特别是基于Swin Transformer的图像重建网络SWINIR。我们的方法包括三个关键块：通过线性插值来提高采样，使用两者中深度学习的初始重建以及残留的细化。测试了两个架构：一个长期的架构，该结构在残留细化块的两个域中使用神经网络，而在正式结构域中仅使用网络的网络进行了简短。用swinir和u-net测试了每种方法，从而产生了四种变体，所有这些方法在PSNR和SSIM方面都优于FBP和SIRT（例如FBP和SIRT）。使用Swinir的短体系结构取得了最佳结果，其训练和计算时间小于基于Swinir的长架构，但比两个基于U-NET的变体都大。
受大脑启发的稀疏训练使 Transformers 和 LLM 能够像全连接模型一样运行
本研究旨在扩大我们目前对脑启发网络科学原理在训练具有稀疏连接的人工神经网络（ANN）中的应用的认识。动态稀疏训练（DST）可以减少ANN训练和推理的计算需求，但现有方法在高连接稀疏度水平下难以保持最佳性能。Cannistraci-Hebb训练（CHT）是一种受大脑启发的增加DST连接的方法。CHT利用无梯度、拓扑驱动的链接再生机制，与完全连接的网络相比，该机制已被证明可以在各种任务中实现超稀疏（1％连接或更低）的优势。然而，CHT有两个主要缺点：（i）它的时间复杂度为O（N·d3） - N节点网络大小，d节点度 - 因此它只能有效地应用于超稀疏网络。 (ii) 它严格选择最高的链接预测分数，这不适合早期的训练阶段，因为此时网络拓扑结构中存在许多不可靠的连接。在这里，我们提出了一个矩阵乘法 GPU 友好的 CH 链接预测器近似值，它将计算复杂度降低到 O(N3)，从而能够在大型模型中快速实现 CHT。此外，我们引入了 Cannistraci-Hebb 训练软规则 (CHTs)，它采用灵活的策略在链接移除和重新生长中采样连接，平衡网络拓扑的探索和利用。为了进一步提高性能，我们将 CHT 与 S 型逐渐密度衰减策略相结合，称为 CHTss。经验
研究论文信息从具有生成预训练的变压器模型的临床文本中提取
目的：由于其非结构化的性质，处理和分析临床文本具有挑战性。本研究比较了GPT（生成预训练的变压器）-3.5和GPT-4的性能，用于从临床文本中提取信息。材料和方法：将三种类型的临床文本包含患者特征，病史和临床测试结果从开放式期刊中的病例报告中提取的临床测试结果被用作输入。随后，使用贪婪方法作为解码策略将包含信息提取查询的简单提示应用于两个模型。当GPT模型在某些任务中的表现不佳时，我们将使用特定于任务定义的替代解码策略或合并提示。将GPT模型产生的输出评估为真或错误，以确定信息提取的准确性。结果：从60个病例报告中提取了包含患者特征（60个文本），病史（50个文本）和临床测试结果（25个文本）的临床文本。GPT模型可以通过简单提示准确提取信息，以从临床文本中提取直接信息。与GPT-4相比，GPT-4的准确率明显更高（95％），而GPT-3.5（70％）。GPT-3.5（78％）在提取体重指数（BMI）中的表现优于GPT-4（57％）。利用性行为和BMI的替代解码策略并不能实际改善这两种模型的性能。在GPT-4中，修订的提示（包括每个性别类别的定义）或BMI公式的定义，纠正了所有关于在主要工作流程中产生的性别和BMI的不正确响应。结论：GPT模型可以通过简单提取直接信息的简单提示来充分发挥作用。对于复杂的任务，将特定于任务的定义纳入提示是一种合适的策略，而不是仅依靠简单的提示。因此，研究人员和临床医生应使用其专业知识来创建有效的提示，并在从临床文本中提取复杂信息时监控LLM结果。
使用多模态信号通过预训练 Transformer 进行情绪识别
我们使用 Transformer [10] 来处理生理信号。Transformer 最初是为自然语言处理 (NLP) 任务开发的，目的是处理单词序列。鉴于生理信号是值序列，Transformer 可以适用于生理信号处理 [11]。Transformer 采用学习到的注意机制，根据上下文动态评分输入不同部分的相关性。基于注意的处理适合处理生理信号，因为根据任务和上下文，信号的某些部分可能比其他部分传达更多信息。使用 Transformer 的另一个好处是，我们可以从 BERT [12] 中描述的非常成功的预训练技术中受益，该技术是为 NLP 任务开发的，我们可以根据需要进行调整。这种预训练策略已成功应用于其他领域，如计算机视觉 [13]、语音处理 [14] 和情感计算 [15]。
两种方法的故事：揭示GAN的局限性和贝叶斯网络的综合网络交通生成
T细胞受体（TCR）及其同源表位之间结合的准确预测是理解适应性免疫反应和发展免疫疗法的关键。当前方法面临两个显着的局限性：全面的高质量数据的短缺以及通过选择监督学习方法中常用的负面培训数据引起的偏见。我们提出了一种基于变压器的方法，用于相互作用的肽和T细胞受体（Tulip）的方法，该模型通过利用不完整的数据和无监督的学习以及使用语言模型的变压器体系结构来解决这两个限制。我们的模型具有灵活性，并整合了所有可能的数据源，无论其质量或完整性如何。我们证明了先前有监督方法中使用的抽样程序引入的偏差的存在，强调了不受监督的方法的需求。郁金香识别表位的特定TCR结合，在看不见的表位上表现良好。我们的模型优于最先进的模型，并为开发更准确的TCR表位识别模型提供了有希望的方向。
chembertaddi：与变压器和临床见解的变形药物相互作用预测
摘要 - 当两种或多种混合使用的药物会引起不良副作用时，即使使用药物单独使用不会造成伤害时，多药的问题也会引起不利的副作用。药物相互作用（DDIS）是这些反应的主要原因，导致发病率和死亡率增加。由于有害DDI的潜力呈指数增长，因此药物相互作用的预测对于患者的安全和有效的医疗保健管理越来越重要。在本文中，我们开发了Chembertaddi框架，该框架有效地结合了临床域数据，以单副作用特征表示，其富集化学分子表示，该化学分子表示源自Chemberta-77m-MLM，这是一个基于变压器的LAN- lan- gage模型。与五种最先进的方法相比，在基准数据集上进行的实验表现出色：decagon，deepwalk，dedicom，nnps和recrecal。评估表明，Chembertaddi的F1得分为0.94，AUROC为0.97，表现优于基线体系结构，并推广到新的引入的药物化合物。索引术语 - 转化，自然语言处理，分子表示学习，药物 - 药物相互作用，多药，Chemberta，神经网络，深度学习，注意机制，生物信息学
smitin：生成音乐变压器的自我监测的推理时间干预 /作者= koo，junghyun;威奇，戈登； Germain，FrançoisG； Khurana，Sameer； Le Roux，Jonathan /CreationDate = 2025年1月23日 /受试者=人工智能，机器学习，语音< /div < /div>
摘要我们介绍了自我监控的推理时间干预（SMITIN），这是一种使用分类探针来控制自回归的生成音乐变压器的方法。这些简单的逻辑回归探针通过使用表现出特定的音乐性状（例如，鼓声/不存在鼓或真实/合成音乐）的小型音频示例对变压器中每个注意力头的输出进行了训练。然后，我们将注意力头转向探针方向，以确保生成模型输出捕获所需的MUSICAL性状。此外，我们监视探针输出，以避免在自回归产生中添加过量的干预措施，这可能会导致时间上不一致的音乐。我们在音频延续和文本到音乐应用程序中客观和主观验证结果，证明了将控件添加到大多数音乐家的重新培训甚至灌感都是不切实际的大型生成模式中的能力。建议的干预方法的音频样本可在我们的演示页面上