XiaoMi-AI文件搜索系统
World File Search SystemLLMS
进行有效的LLMS培训
强化学习（RL）是一种广泛采用的LLM训练后培训方法，用于增强对齐和推理能力。本演讲将介绍我们在设计有效的RL算法和培训LLM的系统方面的最新进展。在算法方面，我们将首先讨论流行的RLHF方法（即DPO和PPO）之间的优缺点，并表明正确配置的PPO培训可以基本上改善有关挑战竞争性编码基准的LLM表现。然后，我们将讨论一些LLM奖励设计的常见陷阱，这些陷阱很容易导致LLM RL培训中不希望的失败。我们建议可以稳定RL培训并提高LLM数学推理功能的简单技巧。在系统方面，我们将介绍分布式的RLHF培训系统RealHF，该系统是所有算法作品的系统基础。RealHF专门研究LLM RL培训，与其他开源RLHF系统相比，可以实现超过10倍的速度。可以在此处找到相关论文：https：//arxiv.org/pdf/2404.10719，https：//arxiv.org/pdf/2410.15115，https://arxiv.org.org.org/pdf/pdf/2406。14088。
CURIE：评估多任务科学长期法学硕士 (LLM) ...
科学问题解决涉及在应用专家知识的同时综合信息。我们引入了 CURIE，这是一个科学的长上下文理解、推理和信息提取基准，用于衡量大型语言模型 (LLM) 在协助科学家进行现实实验和理论工作流程方面的潜力。该基准引入了由六个学科的专家策划的十项具有挑战性的任务：材料科学、凝聚态物理、量子计算、地理空间分析、生物多样性和蛋白质。我们在 CURIE 中的任务上评估了一系列封闭和开放的 LLM，这些任务需要领域专业知识、对长上下文信息的理解和多步骤推理。虽然 Claude-3 在各个领域都表现出一致的高理解力，但流行的 GPT-4o 和 command-R + 在蛋白质测序任务上表现不佳。总的来说，所有模型都有很大改进空间。我们希望这项工作能够指导未来科学领域 LLM 的发展。
使用LLMS构建网络安全AI助手
问：什么是Kerberoasting攻击？ A：对手可能会滥用有效的Kerberos票务票（TGT）或嗅探网络流量，以获取可能容易受到蛮力攻击的机票授予服务（TGS）票。 服务主名（SPN）用于唯一标识Windows服务的每个实例。 要启用身份验证，Kerberos要求SPN与至少一个服务登录帐户相关联（该帐户（专门负责运行服务的帐户）。具有有效Kerberos票务票证（TGT）的逆境者可能会请求一个或多个Kerberos门票票务服务（TGS）服务票证（TGS）服务票证票来自任何SPN。 这些票证的部分可以用RC4算法进行加密，这意味着与SPN相关的服务帐户的Kerberos 5 TGS-REP ETYPE 23哈希H被用作私钥，因此很容易受到脱机蛮力攻击的攻击，可能会揭示出明文的凭据。问：什么是Kerberoasting攻击？A：对手可能会滥用有效的Kerberos票务票（TGT）或嗅探网络流量，以获取可能容易受到蛮力攻击的机票授予服务（TGS）票。服务主名（SPN）用于唯一标识Windows服务的每个实例。要启用身份验证，Kerberos要求SPN与至少一个服务登录帐户相关联（该帐户（专门负责运行服务的帐户）。具有有效Kerberos票务票证（TGT）的逆境者可能会请求一个或多个Kerberos门票票务服务（TGS）服务票证（TGS）服务票证票来自任何SPN。这些票证的部分可以用RC4算法进行加密，这意味着与SPN相关的服务帐户的Kerberos 5 TGS-REP ETYPE 23哈希H被用作私钥，因此很容易受到脱机蛮力攻击的攻击，可能会揭示出明文的凭据。
IST1-CHMP1B相互作用的化学抑制剂会损害内体回收并诱导非童lc3脂质
摘要。本论文研究了金融风险管理中大型语言模型（LLM）和检索增强发电机（RAG）的实施和影响。通过定性搜索方法和金融机构中的迭代原型开发，本文探讨了这些技术如何改善风险管理专业人员的数据可访问性和决策过程。这些发现揭示了这些技术在金融环境中实现这些技术的潜力和挑战。尽管风险经理对技术表现出极大的热情和信任，但成功实施需要在数据归一化，语义建模和查询生成方面进行大量的手动工程工作。关键挑战包括处理模棱两可的自然语言查询并保持财务计算中的准确性。表明，尽管LLMS和RAG可以提高数据可及性，但它们的有效部署需要仔细注意特定于领域的需求和人为因素。这项研究通过洞悉实施挑战，用户接受和系统要求，为AI在金融服务中的实践应用方面的知识越来越多。这些发现对考虑类似的实施和提示未来研究的指示的金融机构具有重要意义，以提高AI辅助财务风险管理工具的可靠性和效率。
健康和医学领域的法学硕士/生成式人工智能问题......
目标： • 了解当前的 AI 格局：总结 2023 年生成式 AI 的发展，重点关注 LLM。• 考虑对健康和医疗保健的影响：确定 LLM/生成式 AI 应用及其对健康和医疗保健的影响，以及它们如何为学习型健康系统做出贡献。• 探索 AI 政策和监督的考虑因素：让研讨会参与者参与会议，预测 LLM 在 AI 生态系统中的机遇和风险；考虑利益相关者在促进负责任的 AI 方面的作用；并确定特定于 LLM 的潜在治理框架的要素，这些要素尤其值得在后续讨论中考虑。
使用LLMS生成具有特定任务的新蛋白质
Halima Bensmail卡塔尔计算研究所的目的：蛋白质的产生在诸如药物设计和蛋白质工程等领域具有广泛的应用前景，可以使用机器学习或深度学习，可以产生蛋白质序列。希望生成的序列具有良好的可折叠性，以便它们可以形成稳定的三维结构。此外，预期所需的蛋白质将表现出特定的功能特性，包括酶活性和抗体结合能力。大语言模型的进步和条件模型的整合已显着推动了蛋白质产生领域的进步。该模型（称为后代）将Uniprotkb关键字包含为2020年的条件标签。这些标签包括一个由各种类别组成的词汇，包括“生物过程”，“细胞成分”和“分子功能”。总共有条件的标签包含超过1,100个不同条款。在评估使用指标相似性，二级结构准确性和构象能产生的蛋白质序列时，它们表现出所需的结构特性。在2022年，受到生成变压器模型（例如GPT-X系列）的显着成就的启发，Protgpt2的发展出现了。值得注意的是，Protgpt2产生的蛋白质表现出符合天然原理的氨基酸倾向。看来Protgpt2已经获得了特定于蛋白质的语言。拟议的工作将重点介绍对这两种术语和Protgpt2的评估。涉及疾病和二级结构预测的评估表明，Protgpt2生成的蛋白质的绝大多数（88％）具有球形特征，与自然序列中的属性保持一致。在Protgpt2序列上采用AlphaFold会产生折叠的非思想结构，包括存在广泛的回路的存在以及当前结构数据库中不存在的以前看不见的拓扑结构。我们还将使用llms使用蛋白质序列作为输入来进行蛋白质功能预测，并为多种蛋白质任务（例如同源性预测）以及二级结构预测，蛋白质溶解度和蛋白质结晶微调模型，并将其与Sproberta进行比较。
通过基于知识的meta- ...
大语模型（LLM）（例如BERT，GPT-4和T5）的摘要最新进展已彻底改变了自然语言处理（NLP）的领域，从而解除了许多应用。但是，针对特定任务的这些模型进行了细微的调整仍然是一个复杂且资源密集的过程，通常在很大程度上依靠专家知识。本研究建议将元学习纳入自动机器学习（AUTOML）系统，以优化LLM微调和管道构建。我们假设基于知识的元学习可以通过将专家衍生的启发式方法嵌入到优化过程中来克服当前汽车方法的低效率。我们的方法涉及编制大量的LLM使用数据，培训元学习估计器，并将其集成到自动自动框架中。这样做，我们旨在降低计算成本并提高基于LLM的NLP应用程序的效率。将根据传统的汽车方法和针对各种文本分类任务的人类专家进行评估，以验证其有效性。这项研究可以通过使高级LLM功能更易于访问和高效来进一步使NLP民主化。
Kimi K1.5：使用LLMS缩放加强学习
对次要标记预测进行预处理的语言模型已被证明对缩放计算有效，但仅限于可用培训数据的数量。缩放增强学习（RL）为继续改善人工智能的新轴解锁了新的轴，并承诺大型语言模型（LLMS）可以通过学习奖励来探索探索的培训数据。但是，事先发表的工作尚未产生竞争成果。鉴于此，我们报告了Kimi K1.5的培训实践，Kimi K1.5是我们接受RL培训的最新多模式LLM，包括其RL培训技术，多模式数据配方和基础架构优化。长上下文缩放和改进的策略优化方法是我们方法的关键要素，它可以建立一个简单，有效的RL框架，而无需依赖更复杂的技术，例如蒙特卡洛树搜索，价值功能和过程奖励模型。值得注意的是，我们的系统在多个基准和模态上实现了最先进的推理性能，例如，Aime上的77.5，在数学500上为96.2，在Mathvista上为74.9，在数学500上为94％，在Mathvista上为74.9，匹配OpenAi的O1。此外，我们提供了有效的长期2个方法，这些方法使用长期技术来改善短框模型，从而产生最先进的短点推理结果 - 例如，在Aime上，Math500，47.3上的94.6在livecodebench上 - 在livecodebench上 - 以gpt-4o和claude sonnnet +550 +550 +550 / claude sonnnet +550 / claude sonnnet。
利用LLM进行ICD编码和不确定性估计
1简介1 1。1问题配方2 1。2研究问题3 2相关工作5 2。1 ICD编码的先前方法5 2。 1。 1传统的机器学习方法5 2。 1。 2深度学习方法6 2。 1。 3个大语言模型（LLMS）6 2。 2利用ICD代码层次结构进行距离计算8 2。 3在模型训练中解决非差异损失功能9 2。 4不确定性10 3方法13 3。 这项工作中使用的1个LLM 13 3。 2数据集16 3。 3数据处理16 3。 3。 1临床笔记处理16 3。 3。 2 ICD- 10代码处理17 3。 3。 3数据拆分17 3。 4 T 5-基本编码的模型17 3。 5使用t 5中的任务前缀进行ICD编码18 3。 6将ICD-10代码层次结构纳入培训过程18 3。 6。 1定义基于距离的损耗函数18 3。 6。 2克服解码模型输出的挑战23 3。 7用于ICD编码的微调T 5 24 3。 8评估指标24 3。 8。 1总距离（TD）24 3。 8。 2 ICD第2章（IIC）25 3。 8。 3无关的ICD块（IIB）25 3。 8。 4无关的ICD第三级（IIT）25 3。 9模型不确定性估计25 3。 10实验设置27 4结果29 4。 1数据分析结果29 4。 2。1 ICD编码的先前方法5 2。1。1传统的机器学习方法5 2。1。2深度学习方法6 2。1。3个大语言模型（LLMS）6 2。2利用ICD代码层次结构进行距离计算8 2。3在模型训练中解决非差异损失功能9 2。4不确定性10 3方法13 3。这项工作中使用的1个LLM 13 3。2数据集16 3。3数据处理16 3。3。1临床笔记处理16 3。3。2 ICD- 10代码处理17 3。3。3数据拆分17 3。4 T 5-基本编码的模型17 3。 5使用t 5中的任务前缀进行ICD编码18 3。 6将ICD-10代码层次结构纳入培训过程18 3。 6。 1定义基于距离的损耗函数18 3。 6。 2克服解码模型输出的挑战23 3。 7用于ICD编码的微调T 5 24 3。 8评估指标24 3。 8。 1总距离（TD）24 3。 8。 2 ICD第2章（IIC）25 3。 8。 3无关的ICD块（IIB）25 3。 8。 4无关的ICD第三级（IIT）25 3。 9模型不确定性估计25 3。 10实验设置27 4结果29 4。 1数据分析结果29 4。 2。4 T 5-基本编码的模型17 3。5使用t 5中的任务前缀进行ICD编码18 3。6将ICD-10代码层次结构纳入培训过程18 3。6。1定义基于距离的损耗函数18 3。6。2克服解码模型输出的挑战23 3。7用于ICD编码的微调T 5 24 3。8评估指标24 3。8。1总距离（TD）24 3。8。2 ICD第2章（IIC）25 3。 8。 3无关的ICD块（IIB）25 3。 8。 4无关的ICD第三级（IIT）25 3。 9模型不确定性估计25 3。 10实验设置27 4结果29 4。 1数据分析结果29 4。 2。2 ICD第2章（IIC）25 3。8。3无关的ICD块（IIB）25 3。8。4无关的ICD第三级（IIT）25 3。9模型不确定性估计25 3。10实验设置27 4结果29 4。1数据分析结果29 4。2。2实验结果30 4。1 LLM和ICD编码的输入长度的比较31 4。2。2比较ICD编码的不同块策略32