Uncertainty Quantification for LLM Function-Calling
大型语言模型 (LLM) 越来越多地用于自主解决现实世界的任务。其中一个关键要素是法学硕士函数调用范式，这是一种广泛使用的方法，为法学硕士配备工具使用功能。然而，LLM 错误地调用函数可能会产生严重影响，特别是当其影响不可逆转时，例如转账或删除数据。因此，在执行函数调用之前，考虑法学硕士对函数调用正确解决任务的信心至关重要。不确定性量化（UQ）方法可用于量化……
Meet GPT-Red: an LLM super-hacker OpenAI built to make its models safer
OpenAI 构建了一个名为 GPT-Red 的 LLM 超级黑客，将其用作陪练伙伴，帮助其其他模型增强对网络攻击的防御能力。上周该公司发布了其旗舰 LLM 的最新版本 GPT-5.6。 OpenAI 表示，针对 GPT-Red 进行训练使该模型成为迄今为止最强大的版本。 GPT-Red 自动化...
“English, no kidding” Looks Like A Surprisingly Useful AI Site For ELLs & Their Teachers
不开玩笑，英语提供了近三十种人工智能工具，旨在支持英语学习者，特别是鼓励口语练习。它有足够多的免费计划，如果你想更频繁地使用它，它的价格非常便宜。如果我在教室里，我会尝试一两个月，看看 [...]
When silence is safer: a review and decision-theoretic framework for LLM abstention in healthcare
大型语言模型 (LLM) 旨在生成用户提示的答案，这通常会促使他们做出响应，即使不确定性很高、信息不完整或拒绝更合适。在医疗保健领域，这种倾向可能是危险的：自信地陈述但不准确的医疗建议可能会造成重大伤害，因此戒烟的能力尤其重要。在本文中，我们回顾了调查医疗保健领域法学硕士放弃行为的研究。文献强调了两个主要动机：（1）不确定性驱动的弃权，即模型在置信度较低时拒绝做出响应；（2）安全驱动的弃权，即模型拒绝提供潜在有害的信息。大多数现有机制都是外在的，依赖辅助工具来确定何时弃权。我们发现最先进的法学硕士仍然难以拒绝不适当的提示，而且很少有基准评估现实医疗场景中的弃权，其表现落后于其他领域。基于这些发
IndiGo BluChip, ALL Accor launch reciprocal loyalty partnership
该合作伙伴关系涵盖 110 个国家/地区的超过 45 个品牌，为客户创建一个综合的旅行奖励生态系统
Disaggregated prefill and decode for LLM inference on SageMaker HyperPod
在本文中，我们将展示如何使用 HyperPod Inference Operator 在 Amazon SageMaker HyperPod 上通过 vLLM 实现 DPD。
Long Context Isn’t Free — I Built a Safe Prompt-Pruning Layer That Makes LLM Systems Work
法学硕士不会因为忘记而失败，而是因为记得太多而失败。随着对话的增长，提示会积累冗余和低价值的令牌，从而增加成本和延迟，同时默默地降低输出质量。本文介绍了一个确定性的提示修剪层，它可以在不破坏依赖关系的情况下减少令牌的使用，并由真正的基准测试和经过生产测试的设计提供支持。 文章《长上下文不是免费的——我构建了一个使 LLM 系统工作的安全提示修剪层》首先出现在《走向数据科学》上。
An Intriguing Way To Use AI To Support Parent Engagement For Our ELL Students
The Conversation 最近发表了一篇文章，生成式人工智能可以在幼儿教育中发挥提升家庭和社区的作用，其中分享了研究人员使用人工智能吸引年轻人父母的一些有趣的方式。这让我思考。当我在课堂上时，我尝试创建课程，其中我的 ELL [...]
NTSB Final Report: Admore International Jets LLC AIRCAM
进近过程中左螺旋桨非指令反向运动，原因不明 分析：飞行员驾驶这架实验性、业余制造的双引擎飞机向目的地机场飞行，该飞机配备了定制的螺旋桨桨距控制系统，该系统由标准电控螺旋桨桨距装置组成，加上各种选择器和其他限位开关，使螺旋桨能够提供反向推力能力。在机场交通模式的基本航段上，两台发动机的运转速度相差约 30 转/分钟，在降低功率后，飞行员认为右侧发动机的螺旋桨在不受控制的情况下反向运转。
在接下来的几个月里，每周我都会重新发布过去的帖子，我认为读者可能仍然觉得有用。这篇文章首次出现于 2019 年。今天早些时候，我发布了“下学年我想做得更好——你呢？”几个小时后，我意识到我 [...]
On-Device Local-Model "LLM Coherence": TABLE OF THE DAY
周日 MAMLM：当龙虾移动时：gemma4 正在教我“人工智能连贯性”...
八年前，我开始做这个定期专题，分享一些来自网络的与 ESL/EFL 或引起我注意的一般语言相关的帖子和资源。您可能还对我所有关于 ELL 教学的最佳列表感兴趣。另外，请查看我最好的资源集合 [...]
LLM Wikis Are Over-Engineered — I Replaced Mine With a Pure Python Compiler
大多数“LLM wiki”使用代理、嵌入和重复模型调用来组织本地注释。我构建了一个确定性的替代方案：一个纯 Python 编译器，仅使用标准库将杂乱的 Markdown 转换为链接的、经过 linted 的 wiki。在此过程中，我修复了两个真正的错误，在两个操作系统上对管道进行了基准测试，并展示了为什么编译器通常比代理更适合机械文本组织。LLM 维基百科过度设计——我用纯 Python 编译器替换了我的编译器首先出现在《走向数据科学》上。
MemoryLLM: Plug-n-Play Interpretable Feed-Forward Memory for Transformers
了解变压器组件在法学硕士中的工作原理非常重要，因为它是人工智能最新技术进步的核心。在这项工作中，我们重新审视了与前馈模块（FFN）的可解释性相关的挑战，并提出了 MemoryLLM，其旨在将 FFN 与自注意力解耦，并使我们能够将解耦的 FFN 作为上下文无关的 token-wise 神经检索记忆来研究。详细地，我们研究了输入标记如何访问 FFN 参数内的内存位置以及 FFN 内存在不同下游任务中的重要性。 MemoryLLM 实现...
Multi-tenant LLM analytics with row-level security: How we built a secure agent on AWS
在这篇文章中，我们将向您展示 PAR 如何构建一个生产就绪的多租户 LLM 分析系统，该系统通过三层架构强制执行行级安全性：使用 AWS SigV4 进行加密请求签名、Amazon Bedrock 上的语义验证以及通过 Split-Plane SQL 进行编程数据隔离。我们演示了每一层如何独立运行，以降低跨租户数据暴露的风险，即使 LLM 本身受到损害或操纵也是如此。
-额外核心ALLEX技术将陆续发布 -通过高保真Sim-to-Real验证扩展物理AI开发生态系统 -为研究人员和机器人开发人员构建开放的物理AI开发生态系统
Implementing resilience patterns with Amazon Bedrock and LLM gateway
在本文中，您将学习在 AWS 上构建弹性生成 AI 应用程序的五种实用模式，从原生 Amazon Bedrock 功能发展到使用 LLM 网关的多模型编排。这些模式解决了现实世界的挑战，例如意外流量激增期间的配额耗尽，通过推理的地理分布最大化可用性，并帮助防止多租户环境中的嘈杂邻居问题。
