XiaoMi-AI文件搜索系统
World File Search SystemLLM
关于AI大语言模型（LLM）的大惊小怪是什么？
培训过程LLM对来自Internet，书籍，文章，网站的大量文本数据进行了“培训”，基本上是用书面语言的所有内容。在培训期间，它学习了单词，短语和概念之间的模式，联系和关系。它不仅记住文本，而且还学习了语言通常如何流动以及不同的想法在输入提示（通常是问题或命令）中的模式识别中如何连接到LLM，它将分析输入并预测最有可能基于培训期间学到的所有模式来进行下一个文本。不断计算哪些单词和短语最有可能彼此关注的概率。响应生成它通过一次预测一个单词来生成响应，始终选择在上下文中有意义的下一个单词。这很快就会发生，使响应感觉自然而连贯的是要理解的关键是，LLM并没有像人类那样真正“理解”语言 - 他们擅长根据统计模式预测和生成文本，但它们没有真正的理解或意识。当您提出问题时，LLM不会搜索数据库以寻求答案。相反，它在数学上计算了逻辑上遵循输入的最可能的单词序列。
大语言模型（LLM）的兴起
分析临床试验数据对于评估新疗法的功效和安全性至关重要。传统上，此过程需要在生物医学，临床研究，生物统计学和数据科学方面的专业专业知识，通常使其劳动密集型，耗时且昂贵[1]。对于缺乏数据分析培训的临床医生和研究人员，复杂的统计要求可能会成为重大障碍，从而导致将研究结果转化为临床实践的延迟。以大数据集和多个终点为特征的现代临床试验的复杂性日益加剧，加剧了这些挑战[2]。临床试验越来越依赖的不同原始和次要数据源的整合进一步强调了对处理复杂的，异质数据的先进分析工具的需求。介入的临床试验依赖于严格的协议下的一致记录保存，涉及多个学科的专家，包括 - 疾病生物学，专科临床护理，毒理学，转化科学，生物统计学，生物分析科学，监管事务，监管事务和生物医学伦理学。每个领域都为试验设计提供了重要的要素，以确保试验的各个方面都符合监管标准和科学严格的严格性，以产生有关治疗功效和安全性的证据。
受大脑启发的稀疏训练使 Transformers 和 LLM 能够像全连接模型一样运行
本研究旨在扩大我们目前对脑启发网络科学原理在训练具有稀疏连接的人工神经网络（ANN）中的应用的认识。动态稀疏训练（DST）可以减少ANN训练和推理的计算需求，但现有方法在高连接稀疏度水平下难以保持最佳性能。Cannistraci-Hebb训练（CHT）是一种受大脑启发的增加DST连接的方法。CHT利用无梯度、拓扑驱动的链接再生机制，与完全连接的网络相比，该机制已被证明可以在各种任务中实现超稀疏（1％连接或更低）的优势。然而，CHT有两个主要缺点：（i）它的时间复杂度为O（N·d3） - N节点网络大小，d节点度 - 因此它只能有效地应用于超稀疏网络。 (ii) 它严格选择最高的链接预测分数，这不适合早期的训练阶段，因为此时网络拓扑结构中存在许多不可靠的连接。在这里，我们提出了一个矩阵乘法 GPU 友好的 CH 链接预测器近似值，它将计算复杂度降低到 O(N3)，从而能够在大型模型中快速实现 CHT。此外，我们引入了 Cannistraci-Hebb 训练软规则 (CHTs)，它采用灵活的策略在链接移除和重新生长中采样连接，平衡网络拓扑的探索和利用。为了进一步提高性能，我们将 CHT 与 S 型逐渐密度衰减策略相结合，称为 CHTss。经验
LLM介导的特定域的语音代理
抽象开发的特定于域的对话剂（CAS）受到对广泛针对域数据的需求的挑战。大型语言模型（LLMS）的最新进展使它们成为知识骨干的可行选择。llms的行为，指示他们以零拍的方式执行下游任务（即没有培训）。为此，我们将结构知识纳入了提示中，并使用了提示LLM的原型域特异性CAS。我们在特定领域的纺织循环中演示了一个案例研究 - 纺织机器人，我们介绍了纺织机器人的设计，开发和评估。特别是，我们进行了一项面对面的用户研究（n = 30），其中包含免费的聊天和信息收集任务，并带有纺织机器人，以收集互动中的见解。我们分析了人类 - 代理人的相互作用，结合了定量和定性方法。我们的结果表明，参与者从事多转向对话，他们对三种变异剂和相互作用的看法各不相同，这表明了我们迅速的LLM方法的有效性。我们讨论了这些相互作用的动态及其对设计基于语音的CAS的影响。
Edge-Cloud LLM Systems中提示安全性和系统性能的联合优化
摘要 - LARGE语言模型（LLMS）具有显着促进人类的生活，并且迅速的工程提高了这些模型的效率。然而，近年来，迅速授权的攻击迅速增加，导致隐私泄漏，延迟增加和系统资源浪费等问题。提出了通过从人类反馈（RLHF）进行加强学习的基于安全性调整的方法以使LLM对齐，但现有的安全机制无法应对官方提示攻击，强调了在提示上执行安全检测的必要性。在本文中，我们在各种及时攻击下共同考虑Edge-Cloud LLM（EC-LLM）系统中的及时安全性，服务延迟和系统资源优化。为了增强提示安全性，提出了启用矢量数据库的轻质攻击检测器。我们将联合及时检测，延迟和资源优化的问题形式化为多阶段动态贝叶斯游戏模型。平衡策略是通过通过贝叶斯更新在每个阶段预测恶意任务的数量和更新信念来确定的。对实施的EC-LLM系统进行了评估，并且与最先进的算法相比，我们的方法提供了增强的安全性，减少良性用户的服务潜伏期，并减少系统资源消耗。索引术语 - 提示攻击，edge-cloud，llm，资源运行，贝叶斯游戏
DeepSeek-R1：通过增强学习激励LLM中的推理能力
•分数：MMLU的90.8％，MMLU-PRO的84.0％，GPQA钻石的71.5％。•胜过DeepSeek-v3，但尾随OpenAI-O1-1217。•与其他封闭式模型相比，教育任务擅长于教育任务。SimpleQA：胜过DeepSeek-V3，展示了强大的事实查询处理。
deepSQL-R1：用于高性能和
数据集示例数avg查询长度（令牌）avg nl长度（单词）蜘蛛10,181 26令牌13个单词ATIS 6,000 15令牌8个单词SQLOVA 8,000 40 40令牌18个单词
llm驱动的自动驾驶场景测试
在另一侧，在过去的两年中，大型语言模型（LLM）以及所谓的生成人工智能的其他方法吸引了许多研究人员和爱好者的注意。在众多拟议的采用中，LLM也被考虑改善现有软件开发流程。通常，由LLMS [1，3]：1）代码生成的软件开发领域所涵盖以下方面 - 自动生成可执行代码从自由形式的文本描述开始，或者也可能涉及其他输入； 2）调试和代码分析 - 确定提供的代码中的安全缺陷，错误和其他潜在问题； 3）代码说明 - LLM能够提供给定代码摘录的详细文本描述； 4）代码校正 - 在向用户的反馈，代码更正和其他建议改进给定代码时，LLMS也被批准非常有用。
利用LLM进行ICD编码和不确定性估计
1简介1 1。1问题配方2 1。2研究问题3 2相关工作5 2。1 ICD编码的先前方法5 2。 1。 1传统的机器学习方法5 2。 1。 2深度学习方法6 2。 1。 3个大语言模型（LLMS）6 2。 2利用ICD代码层次结构进行距离计算8 2。 3在模型训练中解决非差异损失功能9 2。 4不确定性10 3方法13 3。 这项工作中使用的1个LLM 13 3。 2数据集16 3。 3数据处理16 3。 3。 1临床笔记处理16 3。 3。 2 ICD- 10代码处理17 3。 3。 3数据拆分17 3。 4 T 5-基本编码的模型17 3。 5使用t 5中的任务前缀进行ICD编码18 3。 6将ICD-10代码层次结构纳入培训过程18 3。 6。 1定义基于距离的损耗函数18 3。 6。 2克服解码模型输出的挑战23 3。 7用于ICD编码的微调T 5 24 3。 8评估指标24 3。 8。 1总距离（TD）24 3。 8。 2 ICD第2章（IIC）25 3。 8。 3无关的ICD块（IIB）25 3。 8。 4无关的ICD第三级（IIT）25 3。 9模型不确定性估计25 3。 10实验设置27 4结果29 4。 1数据分析结果29 4。 2。1 ICD编码的先前方法5 2。1。1传统的机器学习方法5 2。1。2深度学习方法6 2。1。3个大语言模型（LLMS）6 2。2利用ICD代码层次结构进行距离计算8 2。3在模型训练中解决非差异损失功能9 2。4不确定性10 3方法13 3。这项工作中使用的1个LLM 13 3。2数据集16 3。3数据处理16 3。3。1临床笔记处理16 3。3。2 ICD- 10代码处理17 3。3。3数据拆分17 3。4 T 5-基本编码的模型17 3。 5使用t 5中的任务前缀进行ICD编码18 3。 6将ICD-10代码层次结构纳入培训过程18 3。 6。 1定义基于距离的损耗函数18 3。 6。 2克服解码模型输出的挑战23 3。 7用于ICD编码的微调T 5 24 3。 8评估指标24 3。 8。 1总距离（TD）24 3。 8。 2 ICD第2章（IIC）25 3。 8。 3无关的ICD块（IIB）25 3。 8。 4无关的ICD第三级（IIT）25 3。 9模型不确定性估计25 3。 10实验设置27 4结果29 4。 1数据分析结果29 4。 2。4 T 5-基本编码的模型17 3。5使用t 5中的任务前缀进行ICD编码18 3。6将ICD-10代码层次结构纳入培训过程18 3。6。1定义基于距离的损耗函数18 3。6。2克服解码模型输出的挑战23 3。7用于ICD编码的微调T 5 24 3。8评估指标24 3。8。1总距离（TD）24 3。8。2 ICD第2章（IIC）25 3。 8。 3无关的ICD块（IIB）25 3。 8。 4无关的ICD第三级（IIT）25 3。 9模型不确定性估计25 3。 10实验设置27 4结果29 4。 1数据分析结果29 4。 2。2 ICD第2章（IIC）25 3。8。3无关的ICD块（IIB）25 3。8。4无关的ICD第三级（IIT）25 3。9模型不确定性估计25 3。10实验设置27 4结果29 4。1数据分析结果29 4。2。2实验结果30 4。1 LLM和ICD编码的输入长度的比较31 4。2。2比较ICD编码的不同块策略32
使用 LLM 框架评估电池健康状态
摘要 — 电池健康监测对于电动汽车 (EV) 的高效可靠运行至关重要。本研究引入了一种基于变压器的框架，利用基于循环和瞬时放电的数据来估计钛酸锂 (LTO) 电池的健康状态 (SoH) 并预测其剩余使用寿命 (RUL)。我们在 500 次循环中对 8 个 LTO 电池在各种循环条件下进行测试，展示了充电时间对能量存储趋势的影响，并应用差分电压分析 (DVA) 来监测电压范围内的容量变化 (dQ/dV)。我们的 LLM 模型实现了卓越的性能，平均绝对误差 (MAE) 低至 0.87%，并且具有支持高效处理的各种延迟指标，展示了其实时集成到 EV 中的强大潜力。该框架通过高分辨率数据中的异常检测有效地识别了退化的早期迹象，从而促进了预测性维护以防止电池突然故障并提高能源效率。索引词 — 电池退化、健康状态 (SoH)、剩余使用寿命 (RUL)、钛酸锂 (LTO)、差分电压分析 (DVA)、大型语言模型 (LLM)