企业文档智能 [Vol.1 #9ter] - 第 9 条中的管道分几个步骤调用模型以确保其正确。对于简单的问题,这是不必要的延迟。每个问题的信号都会引导他们通过模型,为关键字匹配节省大约两秒的时间。通过减少 LLM 的调用,而不是通过购买更快的模型来降低企业 RAG 管道的延迟和成本,该帖子首先出现在《走向数据科学》上。
Accessing OpenAI models on Amazon Bedrock from Australia with global cross-Region inference
澳大利亚团队现在可以访问 Amazon Bedrock 上的 OpenAI GPT-5.6 Sol、Terra 和 Luna 模型,并通过亚太地区(悉尼)和亚太地区(墨尔本)进行全球跨区域推理。本文展示了如何调用模型、使用提示缓存、使用 OpenID Connect 身份验证设置 Codex 以及使用 Amazon CloudWatch 监控使用情况。
Batch write and discover records in Amazon SageMaker Feature Store
Amazon SageMaker Feature Store 现在支持两个新 API:BatchWriteRecord 在一次调用中跨多个功能组写入最多 25 条记录,ListRecords 枚举功能组内的记录标识符。在这篇文章中,我们将通过可用于入门的代码示例来介绍每个 API。
PROOF-Gen: From Optimized Data to Better Distillation
在教师生成轨迹上的监督微调是将工具调用能力蒸馏到可部署模型的标准第一阶段。推动已发布工具调用代理的后训练流水线以每日或每周的节奏重新运行此阶段。
Introducing cross-Region inference for OpenAI GPT-5.6 models on Amazon Bedrock
Amazon Bedrock 现已在超过 25 个 AWS 区域提供具有跨区域推理功能的 OpenAI GPT-5.6 模型(Sol、Terra 和 Luna)。了解美国地理和全球推理配置文件如何路由更高吞吐量的请求、如何使用 OpenAI 和 Converse API 调用模型,以及如何配置 IAM、配额和监控。
Why Arthritis Can Come Back Stronger After Cancer Immunotherapy
如果免疫系统对癌症治疗的记忆也教会它如何重新启动疼痛性关节炎呢?德克萨斯大学 MD 安德森癌症中心的研究人员发现证据表明,免疫检查点抑制剂引发的炎症性关节炎可以反复调用相同的免疫细胞群。当关节炎复发时,这些细胞似乎 [...]
Government Will Steal Your Land to Feed the AI Machine
私人土地可能被征用,用于建设快速扩张的人工智能数据中心行业所需的输电线路。如果业主拒绝自愿出售地役权,公用事业公司可以诉诸征用权,前提是该项目被宣布为“公共用途”,并且业主收到政府所谓的“公正补偿”。让我们调用 [...]
Building Voice-Controlled AI Agents
构建语音控制的 AI 代理并不难,本文将管道分解为其实际组件:流式语音识别、转弯检测、流式生成、中断处理和语音约束下的工具调用,并展示了每个组件的职责。
Building trade assistant: How Jefferies optimized front office trading operations with AI
在这篇文章中,我们探讨了 Jefferies 如何通过基于 Strands Agents 构建的解决方案克服这些挑战,Strands Agents 是一个代理工具 SDK,用于构建 AI 代理,可以通过编排对基础模型 (FM) 和外部工具的调用来进行推理、规划和行动。该解决方案使用大型语言模型 (LLM)、Amazon Bedrock 和 Amazon Bedrock 知识库。它还使用模型上下文协议(MCP),这是一种开放标准,可帮助人工智能代理通过统一的接口安全地连接到不同的数据源和工具。我们介绍了解决方案概述、选择底层技术堆栈的基本原理、经验教训以及杰富瑞创建的解决方案对业务的影响。