XiaoMi-AI文件搜索系统
World File Search System成语
docllm：用于多模式文档理解的布局感知的生成语言模型
企业文档，例如表格，收据，报告和其他此类记录，通常在文本和规范模式的交集中携带丰富的语义。其复杂布局提供的视觉提示在有效地培养这些文档中起着至关重要的作用。在此过程中，我们提出了Docllm，这是传统大型语言模型（LLMS）的轻量级扩展，以考虑文本语义和空间布局，以通过视觉文档进行推理。我们的模型通过避免昂贵的图像编码器并专注于边界框信息以结合空间外部结构，这与现有的Mul- Timodal llms不同。具体而言，文本和空间方式之间的交叉对齐是通过将经典变压器中的注意机制分解为一组分离的矩阵来捕获的。此外，我们设计了一个学会填充文本段的预训练目标。这种方法使我们能够解决视觉文档中经常遇到的不规则布局和异质内容。使用大规模的指定数据集对预训练的模型进行了微调，涵盖了四个核心文档中的识别任务。我们证明，在所有任务中，在16个数据集中的14个数据集中，我们的解决方案的表现优于Sota LLMS，并概括为5个以前看不见的数据集中的4个。
生成语言模型是多元文化的吗？使用chatgpt
大语言模型（LLMS），例如Chat-GPT，被广泛用于生成用于各种目的和受众的内容。但是，这些模型可能无法反映用户的文化和情感多样性，尤其是对于低资源语言。在本文中，我们提出了Chatgpt如何代表Hausa的文化和情感。我们将Chatgpt发出的响应与本地豪萨人在37个具有文化相关的问题上提供的响应。我们使用情感分析进行了实验，并应用了两个相似性指标来衡量人与ChatGPT响应之间的比对。我们还收集了人类参与者的评分和有关ChatGPT响应的反馈。我们的结果表明，Chatgpt与人类反应有一定程度的相似之处，但在其知识和对豪萨文化和情感的认识方面也表现出了一些差距和偏见。我们讨论了我们的方法和分析的含义和局限性，并提出了改善低资源语言LLM的性能和评估的方法。
催化剂发现的生成语言模型
二十多年前提出的自主计算的愿景（ACV）设想了类似于生物生物体的自我管理的计算系统，从而无缝地适应不断变化的环境。尽管进行了数十年的研究，但由于现代组合系统的动态和复杂性，实现ACV仍在挑战。大型语言模型（LLM）的最新进步通过杠杆知识，语言理解和任务自动化功能，为这些挑战提供了有希望的解决方案。本文探讨了通过基于LLM的多代理框架进行微服务管理的可行性。我们引入了一个五级分类器，以进行自主服务维护，并根据Sock Shop Microservice Demo项目提供在线评估基准，以评估我们的框架的性能。我们的发现表明，在实现3级自主权方面取得了很大的进步，强调了LLM在检测和解决微服务体系结构中的问题方面的有效性。这项研究通过开创LLMS集成到微服务管理框架中，为更具适应性和自我管理的计算系统铺平道路，从而有助于提高自主计算。该代码将在https://aka.ms/acv-llm上提供。
降低的生成语言模型中的紧急能力
大型语言模型可以解决新任务，而无需特定于任务的微调。这种能力，也称为文化学习（ICL），具有出现的能力，主要是在具有数十亿个参数的大语言模型中看到的。这项研究研究了这种紧急特性是否严格与模型大小相关，或者可以通过较小的模型进行培训的较小尺度数据。为了探讨这一点，我们简化了训练前数据和训练前36个因果语言模型，参数从100万到1.65亿个参数不等。我们表明，在此简化的预训练数据上训练的模型表明，以简化语言的各种任务进行了增强的零射击功能，从而实现了在不受限制的语言上六倍的预训练模型的性能组合。这表明降低语言允许零击学习能力在大小有限的模型中出现。此外，我们发现这些较小的模型在简化的数据上进行了预训练，证明了评估损失与三个缩放因素之间的功率定律关系：计算，数据集大小和模型大小。1
引用：Caterson J，Ambler O，Cereceda-Monteoliva N等。将生成语言模型应用于骨科实践。 BMJ开放2024; 14：
抽象的目标是探索大型语言模型（LLM）是否生成的预训练的变压器（GPT）-3和Chatgpt可以编写临床信件并预测常见骨科场景的管理计划。设计了15个场景，并提示Chatgpt和GPT-3撰写临床信件，并分别制定了有关相同场景的管理计划，并删除了计划。使用可读工具评估了主要结果指标的字母。信件和管理计划的准确性由三位独立的骨科手术临床医生评估。结果两个模型在单个提示后为所有方案生成完整的字母。使用Flesch-Kincade等级比较可读性（CHATGPT：8.77（SD 0.918）; GPT-3：8.47（SD 0.982）），Flesch Rearbilability Esise（ChatGpt：58.2：58.2（SD 4.00）; SD 4.00）; gpt-3：gpt-3：59.3：59.3（SD 6.98）（SD 6.98），Sipple of Simple of Sipple of Sipple of Chagpt of Chagpt of Chagpt（chats）（SCHBBLEDS） 0.755）; gpt-3：11.4（SD 1.01），并达到（chatgpt：81.2％; gpt-3：80.3％）。chatgpt产生了更准确的字母（8.7/10（SD 0.60）vs 7.3/10（SD 1.41），p = 0.024）和管理计划（7.9/10（SD 0.63）vs 6.8/10（SD 1.06），比GPT-3比GPT-3。但是，两个LLM有时都省略了关键信息或添加了最坏不准确的其他指导。结论本研究表明，LLM可有效地产生临床信件。几乎没有提示，它们是可读的，并且大多是准确的。但是，它们不一致，包括不适当的遗漏或插入。此外，LLM制定的管理计划是通用的，但通常是准确的。将来，经过精确且安全的数据培训的医疗保健特定语言模型可以为通过将大量数据汇总到单个临床字母中来提高临床医生的效率，从而为提高临床医生的效率。
使用生成语言模型和用户产品评论
摘要 - 本文介绍了一种将技术描述转换为用户友好的体验式描述的方法，同时还突出了原始描述的相关部分。产品描述通常很难没有先验知识。例如，具有相机的初学者无法理解“ ISO灵敏度51,200”之类的技术描述。我们的方法将此描述转化为更相关的短语，例如“即使在晚上捕获清晰的面孔”。我们的方法采用生成语言模型来实现这种体验式描述生成和证据估计。我们的方法首先训练具有成对的产品描述和查看的模型。训练有素的模型在给出产品描述时会生成许多候选体验描述。训练后，我们的方法使用基于消融的方法来估计生成的候选者的明显描述。当删除描述的一部分时，它会检查生成的叙述中的单词频率。例如，当从输入描述中删除“ ISO敏感性”时，诸如“夜”或“清除”之类的术语在评论中变得越来越少。实际评论数据集的主题实验验证了我们方法在产生准确叙述中突出产品功能的有效性。索引术语 - 生成语言模型，标语，slogan
CHATGPT，生成语言模型和人工智能在医学教育中的作用：与Chatgpt的对话和呼吁论文
ChatGpt是由OpenAI于2022年11月30日推出的生成语言模型工具，使公众能够与一台在广泛主题的机器交谈。在2023年1月，Chatgpt吸引了超过1亿用户，使其成为迄今为止增长最快的消费者应用程序。对Chatgpt的采访是对Chatgpt进行更大访谈的第2部分。它提供了Chatgpt当前功能的快照，并说明了医学教育，研究和实践的巨大潜力，但也暗示了当前的问题和局限性。在与JMIR Publications的创始人兼出版商Gunther Eysenbach的对话中，Chatgpt产生了一些有关如何在医学教育中使用聊天机器人的想法。它还说明了其为医学生生成虚拟患者模拟和测验的能力；批评了模拟的医生沟通，并试图总结研究文章（原来是捏造的）；评论了检测机器生成的文本以确保学术完整性的方法；为卫生专业人员生成了一个课程，以了解人工智能（AI）；并帮助起草了在chatgpt的JMIR医学教育中发起的新主题问题论文的呼吁。对话还强调了适当的“提示”的重要性。尽管语言发生器确实偶尔会出现错误，但在受到挑战时会承认这些错误。当Chatgpt捏造的参考文献时，大语模型的众所周知的令人不安的幻觉趋势变得明显。访谈可瞥见Chatgpt的能力和局限性以及AI支持的医学教育的未来。由于这项新技术对医学教育的影响，JMIR医学教育正在发起呼吁新的电子收集和主题问题的论文。论文呼吁的最初草案完全是由Chatgpt生成的，但将由主题问题的人类客人编辑进行编辑。
自主驾驶中感知的生成语义域适应
摘要：最近已经建立了在硝酸硅中制造固有的单光子发射器的强大过程。这些发射器显示出由于室温运行和与技术成熟的氮化硅光子学平台的整体式整合而导致的量子应用的希望。在这里，通过测量光学跃迁波长，线宽和光子抗激素的基本光物理特性，探测了从4.2K到300K的温度的函数。通过测量零孔子线的不均匀和温度依赖性的均匀宽扩大，提供了对终身有限线宽潜力的重要见解。在4.2K时，发现光谱扩散是主要的宽扩向机理，而时间分辨的光谱测量结果揭示了具有仪器限制线宽的零孔子线的均匀宽宽。