XiaoMi-AI文件搜索系统
World File Search SystemLlama
分布式 AI 任务的即时通信
1 简介 人工智能领域的最新进展由 ChatGPT [ 18 ] 和 SORA [ 19 ] 等大型模型推动，带来了巨大的计算挑战。扩展这些模型通常需要多 GPU 或多节点系统 [ 2 , 14 ]，利用张量并行等并行策略 [ 25 ] 来处理计算负载。例如，Llama 3.1-405B 模型训练使用了 16,000 个 H100 GPU [ 16 ]。然而，分布式计算引入了通信作为主要瓶颈，占执行时间的 80%，如 Llama 2-7B 模型所示 [ 1 ]。如 [ 3 ] 所示，将 Llama 2-13B [ 27 ] 训练从 8 个 GPU 扩展到 1,024 个 GPU 会因通信开销而将模型 FLOP 利用率 (MFU) 从 47% 大幅降低至 4%。这凸显了一个关键问题：尽管硬件功能有所进步，但由于引入了通信开销，硬件（尤其是 GPU）往往未得到充分利用。为了提高 MFU，先前的研究探索了通过通信 [ 20 、 22 、 28 、 30 ] 或数据加载 [ 9 ] 来提高硬件利用率的潜力。然而，这些策略主要侧重于重叠计算运算符和独立通信运算符。如果存在依赖关系（例如在推理阶段），则计算和通信都位于关键路径上，运算符间重叠是不可行的。认识到这一机会，我们引入了 DistFuse，这是一个即使在存在依赖关系的情况下也能促进细粒度重叠的系统。DistFuse 的核心旨在协调计算和通信，这样 GPU 就可以在部分数据准备就绪时立即启动通信，而不是等待整个数据。我们进行了一项概念验证实验，通过在单个节点上将 DistFuse 与 Llama 3-70B 的推理相结合来展示性能提升，该节点可以隐藏高达 44.3% 的通信延迟。我们目前的原型专注于 LLM 任务，但即时通信的核心概念是多功能的，可以应用于其他场景，例如卷积模型。鉴于数据中心中大型模型工作负载的日益普及以及对高效通信的需求不断增长，我们预计通过我们的技术将显着提高性能。此外，我们
人工智能 101：生成式人工智能与高等教育
Meta's Llama 2 回答“你能在加州通过短信投票吗”：“在加州，你可以使用一项名为 Vote by Text 的服务通过短信 (SMS) 投票。这项服务允许你使用一个安全且易于使用的系统进行投票，该系统可从任何移动设备访问。”（Burke，2024 年）
评估在辐射暴露和疾病状况下预测蛋白质行为的大型语言模型
暴露于离子辐射的主要关注点是患疾病的风险。高剂量的辐射会导致造成癌症的明显损害，但低剂量辐射（LDR）的影响不那么清晰，更具争议性。为了进一步研究这一点，它需要专注于受辐射影响的基本生物结构。最近的工作表明，大型语言模型（LLM）可以有效地预测蛋白质结构和其他生物学特性。这项研究的目的是利用诸如Mistral，Llama 2和Llama 3之类的开源LLM，以预先证明辐射诱导的蛋白质的改变以及在Spe-CificeAses的存在下蛋白质蛋白侵蚀（PPIS）的动力学。我们表明，在神经退行性疾病，代谢性疾病和癌症的背景下，微调这些模型可以预测蛋白质相互作用的最先进性能。我们的发现有助于理解辐射暴露与疾病机制之间的复杂关系的持续努力，以说明当前构成模型的细微能力和局限性。代码和数据可用于以下网址：https：//github.com/rengel2001/ surp_2024
设计基于LLM的学习助手
本学士学位论文的目标是开发一位针对主席讲座之一量身定制的LLM学习助手。学习助手应利用检索增强的生成（RAG）框架，结合通用语言模型（例如GPT-4，Llama）的优势与准确的，课程特定的知识（例如，讲座的滑道和视频）（例如，整体开发过程）应遵循设计科学研究方法（HEVNER ETREPET）。讲座。必需的技能
塔夫茨健康计划的药品定价工具
塔夫茨健康计划遵守适用的联邦民权法律，不因种族、肤色、国籍、年龄、残疾或性别（包括怀孕、性取向和性别认同）而歧视。注意：如果您讲西班牙语，我们可以为您提供免费的语言协助服务。请致电 1-800-701-9000（HMO）/1-866-623-0172（PPO）（TTY：711）。
信用风险管理的生成AI
演讲者将首先对四种主要的大语言模型进行比较分析：GPT-4O，Claude 3.5十四行诗，Gemini 1.5 Pro和Llama3。此外，扬声器还将引入几个广泛使用的AI用户界面，即Poe.com，副副词，笔记本电脑LM和困惑。本部分还将涵盖反向及时的工程，知识库，长篇文章写作和AI辅助监管研究。
内容生成人工智能的使用指南
根据 3 VSA § 5022，人工智能 (AI) 部门审查了目前可用的大型语言模型 (LLM) 的功能，例如 ChatGPT、Bard、Bing Chat、DallE 和 LLaMA，它们都是人工智能的一种形式，并为希望在履行公务时使用 LLM 的州雇员发布了以下指南。使用 LLM 履行公务是可以接受的，但须遵守下述某些限制。随着技术的发展，ADS 将更新指南，各部门或机构可自行决定发布更严格的指南。
AI驱动的聊天机器人实现...
鉴于人力资源有限和在Negeri Semarang大学（UNNES）HELPESK的服务用户的需求，需要解决有关服务问题的解决方案。这项研究旨在使用UNNES的Helpdesk使用基于相似性和基于生成的响应生成模型来实施和评估集成的聊天机器人系统。主要贡献是通过自动化的上下文感知响应提高响应效率和用户满意度，这是高等教育机构中一种新颖的方法。主要目的是使用自动化和上下文意识响应生成提高响应效率和用户满意度。涉及部署TF-IDF模型进行初始查询处理以快速检索相关常见问题（FAQ）响应的方法。此外，当查询低于定义的相似性阈值以下时，采用了一种生成模型Llama Rag生成细微的答案。使用精度，召回，F1分数和BLEU分数指标包括数据收集，预处理，模型培训和绩效评估。TF-IDF模型有效地处理了78％的查询，而Llama RAG模型则解决了其余22％。TF-IDF响应的平均相似性得分为0.85，生成响应的BLEU得分为0.61，分别显示出高相关性和语言相干性。这些发现强调了整合先进的AI模型以改善帮助台操作的潜力，这表明此类系统可以显着提高用户的交互和操作效率。
ACM 电子系统设计自动化事务电子系统设计自动化大型语言模型特刊
ChatGPT、Gemini 和 Llama 等大型语言模型 (LLM) 将彻底改变工程流程，电子（系统）设计自动化 (EDA) 可能会受到深远影响。现代电子系统设计领域的特点是极其复杂，从嵌入式系统软件/硬件协同设计的复杂性到十亿晶体管规模的集成电路优化。这种复杂性，再加上对缩短上市时间的迫切需求，为自动化改进设计流程提供了无数机会。LLM 已经在这一领域取得了重大进展，并可能在未来改变 EDA 领域。
人工智能可以拥有个性吗？
摘要 — 大型语言模型的最新进展引发了人们对人工智能 (AI) 看法的重新审视。这些模型在各种复杂任务中表现出类似人类的行为，导致人们声称它们具有意识或拥有自我。然而，由于缺乏可用的测量方法和工具，验证这种说法一直具有挑战性。在本文中，我们使用已建立的评估人类个性的方法对大型语言模型的个性进行了评估。个性被定义为个人对世界的看法、行为和基于这些观点的行动。我们认为，当前的大型语言模型已经从训练数据和过程中形成了自己的观点和意见，并在决策过程中使用这些观点和意见。为了检验我们的假设，我们对几个大型语言模型进行了各种性格测试，包括 ChatGPT、GPT3 和 LLAMA。我们的分析揭示了这些人工智能系统个性的迷人见解，这对我们如何训练和概念化人工智能具有重要意义。重要的是，我们发现每个大型语言模型的个性不仅在内部一致，而且在不同模型之间也一致。我们进一步发现，LLama 在神经质方面的得分往往高于其他模型，而 ChatGPT/GPT3 在尽责性和亲和性方面的得分往往更高。虽然所有模型都表现出严重的人格障碍，但它们都患有社交焦虑症。这些发现对人工智能的开发和使用具有重要意义，我们建议在这一领域进一步研究，以加深我们对这些系统的理解。索引术语 — 人工智能、大型语言模型、个性、自然语言处理