XiaoMi-AI文件搜索系统
World File Search System视觉
视觉增强的动态语义原型，用于生成零拍学习
生成的零拍学习（ZSL）学习了一个生成器来合成看不见类的视觉样本，这是推进ZSL的有效方法。然而，现有的发电方法依赖于高斯噪声和预定义的语义原型的条件，这限制了仅在特定的看到类中优化的发电机，而不是对每个视觉实例进行特征，从而导致概括不良（例如，过度适用于可见的类）。为了解决这个问题，我们提出了一种新颖的视觉启动动态语义原型方法（称为VADS），以增强发电机来学习准确的语义 - 视觉映射，以充分利用视觉效果的知识为语义条件。详细说明，VADS由两个模块组成：（1）视觉吸引域知识学习模块（VDKL）了解视觉特征的偏见和全局先验（称为域的视觉知识），这些偏见取代了纯净的高斯噪声，以提供更丰富的先验噪声信息； （2）以视觉为导向的语义更新模块（VOSU）根据样本的视觉表示更新语义原型。最终，我们将它们的输出作为动态语义原型串联，作为发电机的条件。广泛的实验表明，我们的VAD在三个突出的数据集上实现了上升的CZSL和GZSL prounperces，并且在Sun，Cub和Awa2上分别胜过其他最先进的方法，其平均分别增加了6.4％，5.9％，5.9％和4.2％。
适应植物表型的视觉基础模型
基础模型是对大量数据进行预训练的大型模型。通常可以以最小的努力来适应各种下游任务。但是，由于基础模型通常是在从互联网中提出的图像或文本上进行预培训的，因此它们在植物表型等植物域中的性能受到质疑。此外，完全调整基础模型是耗时的，需要高计算能力。本文研究了植物表型设置和任务的基础模型的有效适应。我们对三个基础模型（MAE，Dino和Dinov2）进行了大量实验，对三个必需的植物表型任务：叶子计数，实例阶段和疾病分类。特别是，预先训练的骨干被冷冻，同时评估了两种不同的调整方法，即适配器调整（使用lora）和解码器调整。实验结果表明，基础模型可以充分地适应植物表型任务，从而产生与针对每个任务的最先进的模型（SOTA）模型相似的性能。尽管在不同任务上表现出很高的传递能力，但在某些情况下，精细调整的基础模型的表现比SOTA任务特定的模型稍差，这需要进一步研究。
计算机视觉 / ML工程师实习生< / div>
理想的候选人将具有强大的背景：计算机科学，机械工程，电气工程，生物医学工程或相关领域。如果有兴趣，候选人将暴露于从头开始发展初创公司的各个方面（R＆D，光学系统集成和原型化）。工作将主要在我们的马里兰州哥伦比亚办事处进行。工资与经验相称（至少$ 17/hr）。我们的紧密联系的团队很高兴欢迎有才华的申请人并一起发展我们的冒险！
视觉变压器具有分层注意力
摘要：本文解决了香草视觉变压器中与多头自我注意（MHSA）相关的高计算/空间复杂性。为此，我们提出了层次MHSA（H-MHSA），这是一种新颖的方法，以层次的方式计算自我注意力。具体来说，我们首先将输入图像分为通常完成的补丁，每个补丁都被视为令牌。然后，提议的H-MHSA学习本地贴片中的令牌关系，作为局部关系建模。然后，将小斑块合并为较大的贴片，H-MHSA对少量合并令牌的全局依赖性建模。终于，将本地和全球专注的特征汇总为具有强大表示能力的功能。由于我们仅在每个步骤中计算有限数量的令牌的注意力，因此计算负载大大减少。因此，H-MHSA可以在不牺牲细粒度信息的情况下有效地模拟令牌之间的环境关系。与H-MHSA模块合并，我们建立了一个基于层次的变压器网络的家族，即HAT-NET。为了证明帽子网络在场景中的优越性，我们就基本视觉任务进行了广泛的实验，包括图像分类，语义分割，对象titection和实例分段。因此，HAT-NET为视觉变压器提供了新的视角。代码和预估计的模型可在https://github.com/yun-liu/hat-net上找到。
使用夸张的视觉层次结构映射改善视觉识别
视觉场景是自然组织的，在层次结构中，粗糙的语义递归由几个细节组成。探索这种视觉层次结构对于认识视觉元素的复杂关系至关重要，从而导致了全面的场景理解。在本文中，我们提出了一个视觉层次结构映射器（HI-MAPPER），这是一种增强对预训练的深神经网络（DNNS）结构化理解的新方法。hi-mapper通过1）通过概率密度的封装来调查视觉场景的层次结构组织； 2）学习双曲线空间中的分层关系，并具有新颖的分层对比损失。预定义的层次树通过层次结构分解和编码过程递归地与预训练的DNN的视觉特征相互作用，从而有效地识别了视觉层次结构并增强了对整个场景的识别。广泛的实验表明，Hi-Mapper显着增强了DNN的表示能力，从而改善了各种任务的性能，包括图像分类和密集的预测任务。代码可在https://github.com/kwonjunn01/hi-mapper上找到。
VIT-COMER：具有卷积多尺度特征相互作用的视觉变压器，用于密集预测
尽管Vision Transformer（VIT）在计算机视觉方面取得了显着的成功，但由于缺乏内部绘制互动和特征量表的多样性有限，它在密集的预测任务中表现不佳。大多数现有的研究致力于设计视觉特定的变压器来解决上述问题，从而涉及额外的培训前成本。因此，我们提出了一种普通的，无培训的且具有特征增强的vit背骨，并具有指定性的特征性动作，称为Vit-Comer，可促进CNN和Transformer之间的双向相互作用。与现状相比，VIT-COMER具有以下优点：（1）我们将空间金字塔多触发性场卷积特征注入VIT体系结构，从而有效地减轻了VIT中局部信息相互作用和单场表述的有限问题。（2）我们提出了一个简单有效的CNN转换器双向交互模块，该模块在跨层次特征上执行多尺度融合，这对Han-dling密集的预测任务有益。（3）我们评估了在各种密集的预测任务，不同框架和多个高级预训练中VIT-COMER的能力。值得注意的是，我们的VIT-COMER-L在没有额外训练数据的情况下可可Val2017上的AP达到64.3％，而ADE20K Val上的MIOU为62.1％，这两种方法都与最先进的方法相当。我们希望VIT-COMER可以作为密集预测任务的新骨干，以促进未来的研究。该代码将在https：//github.com/traffic-x/vit-comer上发布。
与计算机视觉的深度学习
深度学习和神经网络：多层感知器：多层感知器体系结构，什么是隐藏的层？每一层中有多少层和多少个节点？激活函数：线性传输函数，重型阶跃功能（二进制分类器），sigmoid/logistic函数，软马克斯函数，双曲线切线函数（TANH），整流的线性单元，泄漏的relu。前馈过程：前馈计算，特征学习。错误函数：错误函数是什么？，为什么我们需要一个错误函数？错误总是正面的，均为正方形错误。跨凝性，关于错误和权重优化算法的最终说明：什么是优化？，批处理梯度下降，随机梯度下降，微型批次梯度下降，梯度下降点击。反向传播：什么是反向传播？，反向传播外卖。
视觉问题的跨模式关系推理网络回答
视觉问题回答（VQA）是一项具有挑战性的任务，需要通过关系推理对图像和问题进行跨模式理解，从而导致正确答案。为了弥合这两种方式之间的语义差距，以前的作品着重于所有可能对的单词区域对齐，而无需更多地关注相应的单词和对象。同样处理所有对，而无需考虑关系一致性，这是模型的性能。在本文中，为了对齐关系对并整合VQA系统的解释性，我们提出了一个跨模式的关系构建网络（CRRN），以掩盖不一致的注意力图，并突出相应单词对的全部潜在比对。具体来说，我们提出了两个相关性掩码，用于模式间和模式内突出显示，从而推断出图像中句子或区域中越重要的单词。可以通过掩盖未对齐的关系来增强一致对的关注相互关系。然后，我们提出了两个新颖的损失L CMAM和L SMAM，并具有明确的超级视觉，以捕获视觉和语言之间的细粒度相互作用。我们进行了彻底的实验来证明有效性并实现了GQA基准的竞争性绩效，以达到61.74％。