XiaoMi-AI文件搜索系统
World File Search System语言
朝着更好的视力启发的视觉语言模型
视觉语言（VL）模型最近取得了未经证实的成功，其中连接模块是弥合模式差距的关键。尽管如此，在大多数存在方法中，富裕的视觉线索尚未充分利用。在视觉侧，大多数现有方法仅使用视觉塔的最后一个功能，而无需使用低级功能。在语言方面，大多数现有的方法仅引入浅视力互动。在本文中，我们提出了一个视觉启发的视觉语言连接模块，称为VIVL，该模块有效利用了VL模型的视觉提示。为了利用视觉塔中的较低级别信息，引入了特征金字塔提取器（FPE），以结合不同中间层的特征，该特征将视觉提示与可忽略不计的参数和计算在头顶上。为了实现VL相互作用，我们提出了深视觉条件的提示（DVCP），可以有效地进行视觉和语言特征的深层互动。我们的VIVL超过了以前的最新方法，当时是18.1苹果酒在从头开始训练可可字幕任务，这极大地提高了数据效率。当用作插件模块时，VIVL始终提高各种骨干和VL框架的性能，在多个基准测试中提供新的最新结果，例如Nocaps和VQAV2。
语言技术就像人们重要的一样：居中语言技术发展中的社区
在过去的十年中，言语和语言技术已经看到了前所未有的“成功”。在既定基准中衡量的广泛应用的性能显然稳步增长。许多工具通过在消费者和商业计算中的集成而广泛采用，语音和语言技术已成为围绕“人工智能”的兴趣（和炒作）的焦点。结果，研究人员长期以来以某种形式知道的技术，例如自动语音识别（ASR），语音综合（TTS）和（大型）语言模型（LLMS）在新颖的社会环境中被解释（和开发）。上下文中的这些变化，而不是（仅）技术本身，提出了许多埃斯特，技术和法律问题，例如：
语言模型是否可以建立有关ICD代码的原因来指导临床笔记的产生？
摘要。在过去的十年中，美国的电子健康记录（EHR）数据数量激增，归因于《 2009年健康信息技术经济和临床健康法》（HITECH）2009年的有利政策环境和2016年21世纪治疗法案。医生在自由形式的文本中捕获了患者评估，诊断和治疗的临床笔记，他们花费大量时间进入他们。手动编写临床笔记可能需要大量时间，增加患者的等待时间，并可能延迟诊断。大型语言模型（LLM），例如GPT-3具有生成与人类写作的新闻文章的能力。我们调查了对临床笔记生成中LLM的促进工程促进工程的用法（COT）。在提示中，我们将疾病国际分类（ICD）代码和基本患者信息以及类似的临床病例示例纳入了研究，以研究LLMS如何有效地制定临床注释。，我们使用GPT-4作为LLM对Codiesp测试数据集的六个临床病例进行了COT提示技术，结果表明，它的表现优于标准的零照片提示。
开发基于精细语言模型的瑞典法律判断的语义搜索工具
大型语言模型（LLMS）是非常大的深度学习模型，可根据大量数据进行重新训练。是句子的双向编码器表示，来自变形金刚（SBERT）的句子是基于变压器的DeNoising AutoCoder（TSDAE），生成查询网络（GENQ）和生成假伪标记（GPL）的改编。本论文项目旨在为瑞典法律判断开发语义搜索工具，以克服法律文件检索中传统关键字搜索的局限性。为此，使用高级培训方法（例如TSDAE，GENQ和GPL的改编），通过利用自然语言处理（NLP）（NLP）（NLP）（NLP）和精细的LLM来开发一种善于理解法律语言的语义细微差别的模型。要从未标记的数据中生成标记的数据，对其进行微调后使用了GPT3.5模型。使用生成模型的使用标记数据的生成对于该项目有效训练Sbert至关重要。已经评估了搜索工具。评估表明，搜索工具可以根据语义查询准确检索相关文档，并同样提高法律研究的效率和准确性。genq已被证明是此用例的最有效的训练方法。
VLP：自主驾驶的视觉语言计划
自主驾驶是一项复杂而具有挑战性的任务，旨在通过场景和推理来实现安全的运动计划。最近，通过增强的场景理解，几个关键问题，包括缺乏推理，低概括性能和长尾场景，但仍需要戴着几个关键问题，但仍需要进行一些关键问题。在本文中，我们提出了VLP，这是一个新颖的视力 - 语言规划框架，利用语言模式来弥合语言理解与自动驾驶之间的差距。VLP通过加强源内存基础和自动驾驶汽车的上下文理解来增强自主驾驶系统。vlp通过与先前的最佳方法相比，分别在平均L2错误和碰撞率方面，分别在平均L2错误和碰撞率方面实现了35.9％和60.5％的端到端规划表演。此外，在面对新的城市环境时，VLP在挑战性的长尾方案和强大的概括能力方面表现出改善的性能。
如何准备好生成的预训练的大语言模型来解释孟加拉语语法错误？
抽象的语法校正校正（GEC）工具，由先进的生成人工智能（AI）提供动力，在用户输入中有效地纠正了语言的不准确性。但是，它们通常在提供基本的自然语言解释方面缺乏，这些解释是学习语言并获得对语法规则的更深入的理解。在低资源语言（例如孟加拉语）中对这些工具的探索有限。在这样的语言中，革命错误说明（GEE）系统不仅应正确句子，而且还应提供错误的解释。这种综合方法可以帮助语言学习者寻求提高能力。我们的工作介绍了一个现实世界中的多域数据集，该数据集来自孟加拉语扬声器，具有不同的义务水平和语言复杂性。此数据集可作为GEE系统的评估基准标记，允许他们使用上下文信息来生成有意义的解释和高质量的更正。Various generative pre-trained large language models (LLMs), in- cluding GPT-4 Turbo, GPT-3.5 Turbo, Text-davinci-003, Text-babbage- 001, Text-curie-001, Text-ada-001, Llama-2-7b, Llama-2-13b, and Llama-2-70b, are assessed against human experts for performance comparison.我们的研究强调了自动部署孟加拉人GEE的当前最新生成预培训的LLM的局限性。主张进行人干预，我们的发现提议合并手动检查以解决语法错误并提高反馈质量。这种方法提出了一种更合适的策略，以重新确定孟加拉语的GEC工具，并阐明了语言学习的教育方面。
使用TF-IDF技术在阿拉伯社交媒体中进行进攻性语言检测
摘要。我们的生活现在围绕社会交流，并且由于阿拉伯文本非常复杂并且包含了许多方言，因此在阿拉伯社交媒体上很难识别出令人反感的语言。本文研究了机器学习模型的实施。使用了选择的分类器，包括决策树，支持向量机，随机森林和逻辑回归。在实验中使用了包含4505个推文的“ ARCYBC”数据集，以评估机器学习模型的性能。根据实验的结果，使用更多运行可以增强机器学习模型的性能，尤其是在精度和召回率方面。随着更多的运行，决策树（DT）和随机森林（RF）分类器显示出更好的回忆和精度，但是DT分类器显示出更好的精度。
MADTP：多模式对准引导的动态令牌修剪，以加速视力 - 语言变压器
视觉 - 语言变压器（VLT）最近显示出巨大的成功，但同时伴随着大量的计算成本，其中主要原因可以归因于大量的视觉和语言令牌。存在用于压缩VLTS的令牌修剪研究主要遵循基于单模式的方案，但忽略了对齐不同模态来指导令牌修剪过程的关键作用，从而导致重要的代币在另一个模态分支中错误地修剪一个模态。同时，现有的VLT修剪作品也缺乏基于不同输入样本动态压缩每一层的灵活性。为此，我们提出了一个名为M Ultodal的新颖框架，用于加速变化VLT的木质制成d ynamic t ynamic t oken p Runing（MADTP）。具体来说，我们首先引入了精心设计的多模式对齐指导（MAG）模块，该模块可以使相同语义概念的特征与不同的模式相结合，以确保修剪的代币对所有模式都不太重要。我们进一步设计了一种新型的dy-namic令牌修剪（DTP）模块，该模块可以根据不同的输入实例自适应地调节每个层中的令牌压缩比。对各种基准测试的广泛实验表明，MADTP可以显着确定多种模型的计算复杂性，同时保留竞争性能。值得注意的是，当将MADTP应用于NLVR2数据集中的BLIP模型时，可以将GFLOPS降低80％，而性能降低少于4％。该代码可在https://github.com/double125/madtp上找到。
语言 - As-As-An-Abstraction-for serarchical-Deep- ...
解决复杂的，暂时扩展的任务是控制学习（RL）的长期问题。我们假设解决此类问题的一个关键要素是组成性的概念。具有学习概念和子技能的能力，这些概念和子技能可以构成解决更长的任务的能力，即层次RL，我们可以获取时间扩展的行为。但是，为层次RL获取有效但一般的抽象是极具挑战性的。在本文中，我们建议将语言用作抽象，因为它提供了独特的组合结构，实现了快速学习和组合概括，同时保持了极大的灵活性，使其适合各种问题。我们的方法学习了一个遵循指令的低级政策和高级政策，该政策可以在本质上重复跨任务的抽象，从而允许代理人使用结构化语言进行推理。为了研究组成任务学习，我们介绍了使用Mujoco物理引擎和CLEVR引擎构建的开源对象相互作用环境。我们发现，使用我们的方法，代理可以学会求解各种暂时扩展的任务，例如对象排序和多对象重排，包括来自原始像素观测值。我们的分析表明，语言的组成性质对于学习各种亚技能和系统地推广到新的亚技能至关重要，与使用相同监督的非复合抽象相比，语言的构成性质至关重要。2
