XiaoMi-AI文件搜索系统
World File Search Systemllm
人工智能或法学硕士训练数据集面临司法管辖权挑战的可能性 Chris Draper 1 和 Nicky Gillibrand 2
摘要 当 AI 驱动的司法访问 (A2J) 系统中使用的大型语言模型 (LLM) 工具的训练数据集不能反映其社区时，它们就会经历系统性偏见。这种偏见可以说表明，LLM 应该看到其法律基础的有效性在司法管辖权方面受到质疑。由于 ChatGPT 有能力通过美国律师资格考试，这为 LLM 工具提供了希望，即可以在普通人的指导下训练 LLM 工具来执行法律专业人员的工作，从而为服务不足的诉讼当事人带来好处。然而，在审查数据集来源时，在遵守法律主权、法治和结果质量方面出现了重大挑战。虽然隐私和数据安全通常会将数据主权集中在数据保存的地理位置，但 A2J 社区也应该注意对 LLM 训练数据集的司法管辖区外的贡献，这些贡献质疑普遍接受的法律主权规范，并因此扭曲其法律应用，使其超出受影响社区的可接受范围。为了更好地代表 LLM 工具所带来的挑战，提出了一种新颖的四分信息主权理论，涵盖了人口、领土、边界承认和监管等问题。因此，本文将研究并质疑 LLM 是 A2J 的推动者的说法。讨论将涉及如何通过短视的数据主权来避免司法管辖权挑战（例如传统的法律主权），从而规避通常表现为偏见的训练数据偏差的风险，然后再考虑司法管辖权定义的训练数据限制如何影响结果质量和重新制定律师在法律程序中的传统角色。最后，我们将根据当代的关注和诉讼，探讨未能充分应对这些深远挑战（影响从社区到宪法的各个层面）的危险。 关键词 1 系统法律基础的验证；法学硕士；大型语言模型；主权；法治；管辖权；偏见；人工智能风险；采用的语用学；自我代理的诉讼当事人；小组讨论；引导式讨论；正在进行中的“人工智能司法途径研讨会”（AI4AJ 2023），2023 年 6 月 19 日，葡萄牙布拉加 chris.draper@meidh.com；nicky.gillibrand@ucdconnect.ie
面对内幕威胁：基于LLM微调
基于异常的检测可有效防止不断发展的内幕威胁，但精度仍然低。当前的数据处理可能会导致信息丢失，并且模型通常会努力区分良性异常和实际威胁。这两个问题都阻碍了精确检测。为了解决这些问题，我们提出了基于大语言模型（LLM）微调的精确异常检测解决方案。通过代表自然语言的用户行为，我们减少了信息丢失。我们使用用户行为模式对比度对异常检测的任务进行微调，使用两阶段策略：首先学习一般行为模式，然后使用特定于用户的数据来改进，以改善良性异常和威胁之间的差异化。我们还实施了一个细粒度的威胁追踪机制，以提供行为级别的审计步道。据我们所知，我们的解决方案是第一个在内幕威胁检测中应用LLM微调的方法，在CERT V6.2数据集中达到了0.8941的F1分数，超过所有基线。
从新手到专家：LLM代理政策通过逐步加强学习
大语言模型（LLMS）的出色功能在各种自主代理系统中都是至关重要的组成部分。传统方法取决于LLM的固有知识而无需进行微调，但最新的方法已转移了加强学习策略，以进一步增强了代理人与环境和工具一起解决复杂的交互式任务的能力。但是，以前的方法受到稀疏奖励问题的约束，其中现有数据集仅为每个多步推理链提供最终的标量奖励，这可能导致政策学习的无效和效率低下。在本文中，我们介绍了Stepagent，该史蒂格特（Stepagent）利用逐步的奖励来挑战代理商的强化学习过程。继承了新手到专家理论的精神，我们首先比较专家和代理人的行为，以自动生成中间奖励以进行细粒度优化。此外，我们提出了隐性奖励和反向加强学习技术，以促进代理反思和政策调整。进一步的理论分析表明，代理的作用分布可以在多个训练周期上汇聚到专家行动分布。各种数据集的实验结果表明，Stepagent优于现有基线方法。
BeefBot：利用先进的 LLM 和 RAG 技术为牛肉生产商提供科学技术解决方案
我们提出了 BeefBot，这是一款专为牛肉生产商设计的由 LLM 驱动的聊天机器人。它检索最新的农业技术 (AgTech)、实践和科学见解，以提供快速、特定领域的建议，帮助有效应对农场挑战。虽然像 ChatGPT 这样的通用大型语言模型 (LLM) 对于信息检索很有用，但它们往往会产生幻觉，无法根据牛肉生产商的特定需求提供定制的解决方案，包括特定品种的策略、操作实践和区域适应。在 LLM 应用程序中合并领域特定数据有两种常用方法：检索增强生成 (RAG) 和微调。然而，它们各自的优点和缺点还不太清楚。因此，我们实现了一个流程，使用 BeefBot 中的开源 LLM 应用 RAG 和微调，并评估权衡。通过这样做，我们能够选择最佳组合作为 BeefBot 的后端，提供可操作的建议，提高牛肉生产商的生产力和可持续性，同时减少幻觉。BeefBot 的主要优势包括其作为与任何浏览器兼容的基于 Web 的平台的可访问性、通过 RAG 不断更新知识、通过本地部署实现机密保证以及通过交互式网站提供的用户友好体验。BeefBot 的演示可在 https://www.youtube. com/watch?v=r7mde1EOG4o 上访问。
设计基于LLM的学习助手
本学士学位论文的目标是开发一位针对主席讲座之一量身定制的LLM学习助手。学习助手应利用检索增强的生成（RAG）框架，结合通用语言模型（例如GPT-4，Llama）的优势与准确的，课程特定的知识（例如，讲座的滑道和视频）（例如，整体开发过程）应遵循设计科学研究方法（HEVNER ETREPET）。讲座。必需的技能
基于LLM的医疗助理个性化
大型语言模型（LLM），例如GPT3.5，在理解和产生自然语言方面表现出非常熟练的熟练程度。另一方面，医疗助理具有为个人提供可观利益的潜力。但是，基于LLM的个性化医疗助理探索相对稀缺。通常，患者会根据其背景和偏好方式不同，这需要使以用户为导向的医疗助理进行任务。虽然可以完全训练LLM以实现此目标，但资源消耗是无法承受的。先前的研究探索了基于内存的方法，以增强对话中的新查询错误，以增强响应。我们认为，单纯的内存模块是不足的，并且充分训练LLM的成本可能过高。在这项研究中，我们提出了一种新型的计算仿生记忆机械，配备了一个有效的细调（PEFT）模式，以个性化医疗助手。为了鼓励对该领域的进一步研究，我们正在发布基于开源的语料库生成的新对话数据集和我们的实施代码1。
生成的AI超出LLM：多...
摘要 - 随着大规模生成的AI模型的开发超出文本（1D）生成，包括图像（2D）和视频（3D）生成，处理空间和时间信息对质量，性能和效率提出了独特的挑战。我们介绍了为理解多模式文本对图像（TTI）和文本对视频（TTV）生成模型的新系统设计空间的第一项工作。当前的模型架构设计分为两类：基于扩散和变压器的模型。我们在八个代表性TTI/TTV模型的套件上进行系统的性能表征表明，应用了最新的优化技术（例如闪光灯注意），卷积占基于扩散的TTI模型的44％的执行时间，而线性层为Transfere基于变速器的模型的执行时间最多49％。我们还观察到，基于扩散的TTI模型类似于LLM推理的预填充阶段，并且受益于闪光灯的1.1-2.5倍比类似于解码阶段的TTI模型高1.1-2.5倍。由于为LLMS设计的优化未直接映射到TTI/TTV模型上，因此我们必须对这些工作负载进行彻底的表征，以获得新的优化机会的见解。在这样做时，我们在TTI/TTV模型的上下文中定义了序列长度，并且在扩散模型推断中观察到序列长度最高为4倍。我们还观察到TTV工作负载的时间方面构成了独特的系统瓶颈，时间注意力占总注意力时间的60％以上。总的来说，我们深入的系统性能表征是设计有效且可部署的系统的重要第一步，以实现新兴的TTI/TTV工作负载。索引项 - 生成AI，多模式，扩散模型，变压器，序列长度，注意力
大语言模型（LLM）的兴起
分析临床试验数据对于评估新疗法的功效和安全性至关重要。传统上，此过程需要在生物医学，临床研究，生物统计学和数据科学方面的专业专业知识，通常使其劳动密集型，耗时且昂贵[1]。对于缺乏数据分析培训的临床医生和研究人员，复杂的统计要求可能会成为重大障碍，从而导致将研究结果转化为临床实践的延迟。以大数据集和多个终点为特征的现代临床试验的复杂性日益加剧，加剧了这些挑战[2]。临床试验越来越依赖的不同原始和次要数据源的整合进一步强调了对处理复杂的，异质数据的先进分析工具的需求。介入的临床试验依赖于严格的协议下的一致记录保存，涉及多个学科的专家，包括 - 疾病生物学，专科临床护理，毒理学，转化科学，生物统计学，生物分析科学，监管事务，监管事务和生物医学伦理学。每个领域都为试验设计提供了重要的要素，以确保试验的各个方面都符合监管标准和科学严格的严格性，以产生有关治疗功效和安全性的证据。
基于LLM的代理的定义和编排...
基于LLM的代理在软件工程中的可靠应用需要大幅度提高其偏差的准确性和最小化。虽然LLM的规模和性能继续增加，但似乎像单个代理的幻觉一样的现象是不可避免的，因为它们与生成模型中的基本推理机制相关。另一方面，证据开始积累有关通过在代理人群体之间进行协作和辩论来实现所需绩效的可能性。在人类之间发生的工作质量随着工人在任务，有组织的协作以及背景不同的工人之间的讨论而提高。与人类不同，多个必需的AI代理的实例化以及它们之间的协作和讨论非常快，便宜，这使得这种方法变得特别方便。Mosaico EU项目1提出了实施这种方法的理论和技术框架，并将其扩展到非常大的合作代理人，即ai-ai-agent社区。该项目收集了工具辅助软件工程的世界领先的专家：欧洲学术团队，著名的工具提供者（Qodo，Eclipse）和工业用户（Collins Aerospace，Immersospace，Immersion，Unparallial，NBG）。
使用LLM进行市场研究
3虽然Openai现在有一个候补名单，用于使用新型号进行实验性微调，但推荐的且广泛可用的微调模型仍然是GPT-3.5 Turbo。4的GPT-3.5涡轮增压器的API呼叫成本为（100万令牌）：输入令牌：0.50美元，输出令牌$ 1.50，而GPT-4O分别为：5美元和15美元。微调令牌成本明显更高：输入：$ 3，输出：6美元，而微调模型的费用仅为100万培训令牌的$ 8。5“幻觉”是用来描述LLM会产生不正确信息的案例的术语，当通过基于聊天的界面或LLM-aughted搜索使用LLM时，通常很感兴趣。因为我们没有向GPT查询事实，所以我们认为幻觉对我们的研究问题至关重要。