XiaoMi-AI文件搜索系统
World File Search System大语
infinigen：具有动态KV缓存管理的大语言模型的有效生成推断
基于变压器的大语言模型（LLMS）在各种自然语言处理任务中都具有令人印象深刻的表现。为LLM推断为生成长含量而构成挑战，这是由于瞬态状态的巨大内存足迹（称为键值（KV）缓存），该状态以序列长度和批处理大小缩放。在本文中，我们提出了Infinigen，这是一种针对Longext Genertion量身定制的新型KV缓存管理框架，该框架协同与现代卸载基于卸载的推理系统合作。Infinigen利用了关键见解，即可以通过对当前层的最小彩排以及查询权重的一部分和后续层的关键缓存进行最小化的彩排来推测，对于计算变压器中后续注意力层至关重要的重要洞察力。这使我们只能预取基本的KV缓存条目（不提供所有内容），从而在基于卸载的LLM服务系统中减轻主机内存中的提取开销。我们对几种代表性LLMS的评估表明，与先前的KV高速缓存管理方法相比，Infinigen将基于现代卸载系统的总体性能提高了3.00倍，同时提供了更好的模型准确性。
培训大语言模型
培训大语言模型（LLM）已成为人工智能进展的核心，数据集，培训前和训练后方法在其性能和可扩展性方面扮演着互补的角色。此博士学位课程探讨了训练这些模型的关键阶段，并强调了数据对下游任务中模型性能的影响。学生将通过全面研究数据集构建，优化技术，缩放定律，培训前策略，合成数据生成以及培训后的改进（例如，进行微调和对齐方式），通过全面的研究构建LLM的理论和实践。该课程将结合理论指导与动手实验相结合。学生将洞悉：＃＃创建高质量，多样化和有效数据集的原则和方法。＃＃¢优化策略，用于大规模模型培训，包括计算效率。＃＃经验缩放定律及其对模型大小和数据集大小的影响。＃¢利用合成数据及其在改善概括和鲁棒性中的作用。＃＃训练技术，例如人类反馈（RLHF）的增强学习以及与期望的结果结合。
您说话时开车：在自动驾驶汽车中启用与大语言模型的人类互动
自动驾驶汽车的未来在于以人为中心的设计和先进的AI Capabilies。未来的自动驾驶汽车不仅会跨乘客，而且还将互动并适应他们的欲望，从而使旅程变得舒适，有效且令人愉悦。在本文中，我们提出了一个新颖的框架，该框架利用大型语言模型（LLMS）来增强自动驾驶汽车的决策过程。通过整合LLMS的自然语言能力和上下文理解，专业工具使用，协同推理，并与自动驾驶汽车的各种模块进行作用，该框架旨在将LLMS的先进语言和推理能力无缝整合到自动驾驶中。拟议的框架具有革新自动驾驶汽车运行方式，提供个性化援助，持续学习和透明决策的潜力，最终为更安全，更有效的自动驾驶技术做出了贡献。
探索大语模型中生成精度的神经梯度体系结构
摘要 - 将神经梯度体系结构（NGA）集成到大语言模型（LLMS）中，导致了自然语言处理的明显进步，从而增强了生成文本的精确性和相干性。通过采用梯度驱动的计算，NGA根据上下文提示动态调整内部途径，从而使LLMS能够更有效地适应各种语言任务。这种方法证明了在上下文理解至关重要的情况下，诸如机器翻译，摘要和对话生成等任务的改进。NGA的融合也有助于减少常见问题（例如重复性或无关的产出），从而提高了生成内容的总体质量。此外，NGA的适应性允许在各个领域对LLM进行更有效的微调，从而促进了其在专业领域的应用，而无需大量的重新培训。经验结果表明，NGA在完善LLM的生成过程中的功效，强调了其大大提高自然语言处理系统性能的潜力。因此，NGA的采用代表了LLM体系结构演变中的关键进展，为开发更响应敏感和上下文意识到的语言模型提供了强大的框架。
用大语言模型在语言刺激下解码语义表示
大脑解码技术为解释神经活动的解释以重现思想，情感和运动的方式铺平了道路。Tang等。 （2023）引入了一种新颖的方法，该方法将语言模型用作基于功能磁共振成像（fMRI）数据的大脑解码的生成模型。 在他们的工作中构建，这项研究探讨了使用三种其他语言模型的使用以及先前研究中使用的GPT模型，以改善解码功能。 此外，我们使用嵌入模型添加了一个评估度量，提供了比BertScore更高水平的语义相似性。 通过比较解码的表现并确定导致良好性能的因素，我们发现高解码精度并不仅仅取决于准确预测大脑活动的能力。 相反，该模型倾向于生成更精确的句子重新构造的文本类型（例如Web文本，博客，新闻文章和书籍），它倾向于生成更重要的作用。Tang等。（2023）引入了一种新颖的方法，该方法将语言模型用作基于功能磁共振成像（fMRI）数据的大脑解码的生成模型。在他们的工作中构建，这项研究探讨了使用三种其他语言模型的使用以及先前研究中使用的GPT模型，以改善解码功能。此外，我们使用嵌入模型添加了一个评估度量，提供了比BertScore更高水平的语义相似性。通过比较解码的表现并确定导致良好性能的因素，我们发现高解码精度并不仅仅取决于准确预测大脑活动的能力。相反，该模型倾向于生成更精确的句子重新构造的文本类型（例如Web文本，博客，新闻文章和书籍），它倾向于生成更重要的作用。
如何准备好生成的预训练的大语言模型来解释孟加拉语语法错误？
抽象的语法校正校正（GEC）工具，由先进的生成人工智能（AI）提供动力，在用户输入中有效地纠正了语言的不准确性。但是，它们通常在提供基本的自然语言解释方面缺乏，这些解释是学习语言并获得对语法规则的更深入的理解。在低资源语言（例如孟加拉语）中对这些工具的探索有限。在这样的语言中，革命错误说明（GEE）系统不仅应正确句子，而且还应提供错误的解释。这种综合方法可以帮助语言学习者寻求提高能力。我们的工作介绍了一个现实世界中的多域数据集，该数据集来自孟加拉语扬声器，具有不同的义务水平和语言复杂性。此数据集可作为GEE系统的评估基准标记，允许他们使用上下文信息来生成有意义的解释和高质量的更正。Various generative pre-trained large language models (LLMs), in- cluding GPT-4 Turbo, GPT-3.5 Turbo, Text-davinci-003, Text-babbage- 001, Text-curie-001, Text-ada-001, Llama-2-7b, Llama-2-13b, and Llama-2-70b, are assessed against human experts for performance comparison.我们的研究强调了自动部署孟加拉人GEE的当前最新生成预培训的LLM的局限性。主张进行人干预，我们的发现提议合并手动检查以解决语法错误并提高反馈质量。这种方法提出了一种更合适的策略，以重新确定孟加拉语的GEC工具，并阐明了语言学习的教育方面。