XiaoMi-AI文件搜索系统
World File Search System模型响应
过渡生成AI从POC到生产
自定义选项从简单提示工程到开发自定义模型。提示工程涉及制定有效提示以获取所需的输出。检索功能生成（RAG）通过合并外部知识来增强模型响应。微型调整将预训练的模型适应特定的任务或域。自定义模型开发提供了最高水平的控制，但需要大量的专业知识和资源。
联合利华肯尼亚 - 来自小米（和其他高纤维晶粒）的创新产品
补救措施开发了一种创新的智能局部能源系统（SLE）模型，用于跨热，运输和电力脱碳能量。该模型基于智能热网络，并结合了私人电线电力网络，将可再生能源的生成和电池存储链接。补救措施模型优化了能源生产，存储和使用，并已被证明是新的国内和商业发展的可行的低碳能量解决方案。该模型响应建筑物生命周期中利益相关者的需求，包括开发商，社会住房提供商，所有者和租户。通过详细审查了沿海地区及其周围的能源需求和机会的详细审查。补救措施还创建了一个项目管道，探索了将模型部署在新构建和改造现实世界发展中的潜力。
Indicoat 最终报告硬度和模量的测定...
工作计划 已经开展了一项广泛的实验计划，使用了六种不同类型的商用仪器、五种压头几何形状、四种不同的涂层系统和三种散装参考材料。该项目已确定硬度和模量值对以下因素的敏感性：仪器校准和环境；压头几何校准；详细加载循环的仪器参数；以及涂层类型和厚度等材料效应。已评估选定的模型，以根据测量的复合压痕响应计算涂层特性。已对这些模型进行了比较、测试和验证，并确定了它们的适用范围。验证包括将模型响应与实验确定的压痕响应进行比较。
CueBot：用于辅助交互用途的提示控制响应生成
对话助手在普通人群中无处不在，然而这些系统对残疾人或言语和语言障碍人士却没有产生影响，对于他们来说，基本的日常交流和社交互动都是一项艰巨的任务。语言模型技术可以在赋予这些用户权力方面发挥巨大作用，并通过交互支持帮助他们以更少的努力与他人互动。为了使这一群体能够发挥作用，我们构建了一个系统，它可以在社交对话中代表他们，并生成可由用户使用提示 / 关键词控制的响应。对于正在进行的对话，该系统可以建议用户可以选择的响应。我们还构建了可以通过在对话响应上下文中建议相关提示来加速这种通信的模型。我们引入了关键词丢失来在词汇上限制模型响应输出。我们展示了对提示/关键词预测器和可控对话系统的自动和人工评估，以表明我们的模型比没有控制的模型表现更好。我们的评估和用户研究表明，端到端响应生成模型上的关键词控制功能非常强大，可以帮助患有退行性疾病的用户进行日常交流。
alis：不安全输入提示的LLM指令安全策略
在大型语言模型中，现有的指令调整方法可能无法在及时注入和越狱等用户输入的攻击方面保持稳健性。受到计算机硬件和操作系统的启发，我们提出了一种指令调用范式的指令，称为木质lm lm I n构造策略（ALIS），以通过将用户输入分解为不可减少的原子指令，并将它们组织到指导流中，从而增强模型性能，以指导它们将响应生成模型响应。alis是一个层次结构，在该结构中，用户输入和系统提示分别被视为用户和内核模式指令。基于ALIS，该模型可以通过忽略或拒绝输入指令来维护安全限制，当时用户模式指令尝试与内核模式指令发生冲突。为了构建Alis，我们还开发了一种自动指令生成方法，用于培训ALIS，并提供一个指令分解任务和相应的数据集。值得注意的是，具有小型模型的ALIS框架仍然可以提高LLM对攻击的弹性的弹性，而不会损失一般的攻击性。我们的代码和数据可在https://github.com/xinhaos0101/alis上获得。
对大型语言模型中最近的后门攻击和防御的调查
大型语言模型（LLMS）弥合了人类语言理解与复杂问题解决问题之间的差距，在几个NLP任务上实现了最先进的性能，尤其是在几次射击和零照片的设置中。尽管LLMS具有明显的功效，但由于对计算资源的限制，用户必须使用开源语言模型或将整个培训过程外包给第三方平台。但是，研究表明，语言模型容易受到潜在的安全漏洞的影响，尤其是在后门攻击中。后门攻击旨在通过中毒训练样本或模型权重，将目标漏洞引入语言模型中，从而使攻击者能够通过恶意触发器来操纵模型响应。尽管对后门攻击的现有调查提供了全面的概述，但他们缺乏对专门针对LLM的后门攻击的深入检查。为了弥合这一差距并掌握该领域的最新趋势，本文通过专注于微调方法，介绍了对LLM的后门攻击的新观点。具体来说，我们将后门攻击系统地分类为三类：全参数微调，参数效率微调和没有微调1。基于大量审查的见解，我们还讨论了未来关于后门攻击的研究的关键问题，例如进一步探索不需要微调或开发更多秘密攻击算法的攻击算法。
![arXiv:2501.04661v1 [cs.CL] 2025 年 1 月 8 日](/simg/g:\will\search\icon\source\9\9fe58559bff64e656410c92855b2f5594d1bede8.png)
arXiv:2501.04661v1 [cs.CL] 2025 年 1 月 8 日
大型语言模型尽管功能强大，但往往会以令人惊讶和难以预测的方式失败。由于它们是基于大量网络规模的数据进行训练的，因此评估它们对语言的真正“理解”尤其具有挑战性。因此，我们利用构造语法 (CxG) 构建了一个评估系统，以系统地评估 LLM 中的自然语言理解 (NLU)，该评估系统可以洞悉语言元素（称为构造 (Cxns)）所捕获的含义。CxG 非常适合此目的，因为它为构建有针对性的评估集提供了理论基础。这些数据集经过精心构建，包含不太可能出现在预训练数据中的示例，但直观且易于人类理解，从而实现更有针对性和更可靠的评估。我们的实验重点关注下游自然语言推理和推理任务，通过将 LLM 对通过 8 个独特 Cxns 传达的底层含义的理解与人类的理解进行比较。结果表明，虽然 LLM 展示了一些结构信息知识，但即使是包括 GPT-o1 在内的最新模型也难以理解这些结构信息所传达的抽象含义，正如测试句子与其预训练数据不同的情况下所证明的那样。我们认为，这种情况可以更准确地测试真正的语言理解能力，凸显了 LLM 语义能力的关键局限性。我们将我们的新数据集和相关实验数据（包括提示和模型响应）公开。