LLM关键词检索结果

设备本地模型“LLM Coherence”:今日表格

On-Device Local-Model "LLM Coherence": TABLE OF THE DAY

周日 MAMLM:当龙虾移动时:gemma4 正在教我“人工智能连贯性”...

LLM Wiki 过度设计 - 我用纯 Python 编译器替换了我的

LLM Wikis Are Over-Engineered — I Replaced Mine With a Pure Python Compiler

大多数“LLM wiki”使用代理、嵌入和重复模型调用来组织本地注释。我构建了一个确定性的替代方案:一个纯 Python 编译器,仅使用标准库将杂乱的 Markdown 转换为链接的、经过 linted 的 wiki。在此过程中,我修复了两个真正的错误,在两个操作系统上对管道进行了基准测试,并展示了为什么编译器通常比代理更适合机械文本组织。LLM 维基百科过度设计——我用纯 Python 编译器替换了我的编译器首先出现在《走向数据科学》上。

MemoryLLM:用于 Transformer 的即插即用可解释前馈存储器

MemoryLLM: Plug-n-Play Interpretable Feed-Forward Memory for Transformers

了解变压器组件在法学硕士中的工作原理非常重要,因为它是人工智能最新技术进步的核心。在这项工作中,我们重新审视了与前馈模块(FFN)的可解释性相关的挑战,并提出了 MemoryLLM,其旨在将 FFN 与自注意力解耦,并使我们能够将解耦的 FFN 作为上下文无关的 token-wise 神经检索记忆来研究。详细地,我们研究了输入标记如何访问 FFN 参数内的内存位置以及 FFN 内存在不同下游任务中的重要性。 MemoryLLM 实现...

具有行级安全性的多租户 LLM 分析:我们如何在 AWS 上构建安全代理

Multi-tenant LLM analytics with row-level security: How we built a secure agent on AWS

在这篇文章中,我们将向您展示 PAR 如何构建一个生产就绪的多租户 LLM 分析系统,该系统通过三层架构强制执行行级安全性:使用 AWS SigV4 进行加密请求签名、Amazon Bedrock 上的语义验证以及通过 Split-Plane SQL 进行编程数据隔离。我们演示了每一层如何独立运行,以降低跨租户数据暴露的风险,即使 LLM 本身受到损害或操纵也是如此。

使用 Amazon Bedrock 和 LLM 网关实施弹性模式

Implementing resilience patterns with Amazon Bedrock and LLM gateway

在本文中,您将学习在 AWS 上构建弹性生成 AI 应用程序的五种实用模式,从原生 Amazon Bedrock 功能发展到使用 LLM 网关的多模型编排。这些模式解决了现实世界的挑战,例如意外流量激增期间的配额耗尽,通过推理的地理分布最大化可用性,并帮助防止多租户环境中的嘈杂邻居问题。

Abacus AI 评论的 ChatLLM:专为日常工作构建的多模型 AI 工作区

ChatLLM by Abacus AI Review: A Multi-Model AI Workspace Built for Daily Work

Abacus AI 对 ChatLLM 的深入回顾,涵盖支持的 AI 模型、AI 代理、编码工具、集成、定价、使用限制以及它与 ChatGPT 的比较。

超越清单:从业者对 IMDA 的 LLM 测试入门套件的评论

Beyond the Checklist: A Practitioner’s Review of IMDA’s LLM Testing Starter Kit

一位从业者对 IMDA 的 LLM 测试入门套件的评论。《超越清单:从业者对 IMDA 的 LLM 测试入门套件的评论》一文首先出现在 Spritle 软件上。

一家初创公司声称它突破了阻碍 LLM 的瓶颈

A startup claims it broke through a bottleneck that’s holding back LLMs

总部位于迈阿密的人工智能初创公司 Subquadratic 上个月走出了隐秘模式,带来了巨大的收益。它宣布它已经解决了近十年来阻碍大型语言模型的数学瓶颈。细节很薄弱,很多人不相信。但 Subquadratic 已经开始带来收据,分享......

Kubernetes 上并发 LLM 代理的 GPU 时间切片

GPU Time-Slicing for Concurrent LLM Agents on Kubernetes

系统级深入探讨 Kubernetes GPU 时间切片的隐藏微架构成本,以及共置 Agentic AI 工作负载的实际成本。Kubernetes 上并发 LLM 代理的 GPU 时间切片后文章首先出现在《走向数据科学》上。

预填充一次,扇出:多代理 LLM 管道的 KV 快照共享

Prefill Once, Fan Out: KV Snapshot Sharing for Multi-Agent LLM Pipelines

停止重新计算相同的上下文。了解如何使用 copy-on-fork KV 快照构建 C++ 运行时,以消除多代理管道中冗余的 LLM 预填充。帖子“预填充一次,扇出:多代理 LLM 管道的 KV 快照共享”首先出现在《走向数据科学》上。

如何降低 LLM 推理成本

How to Reduce LLM Inference Costs

为什么重要:在不降低质量的情况下削减 LLM 费用:量化、批处理、路由和蒸馏可将推理成本削减 50% 至 90%。

自动编写 LLM 提示

Automate Writing Your LLM Prompts

使用 DSPy 自动创建、评估和优化您的提示自动编写您的 LLM 提示一文首先出现在走向数据科学上。

激励以自我为中心的视频理解模型中的时间意识

Incentivizing Temporal-Awareness in Egocentric Video Understanding Models

多模态大语言模型 (MLLM) 最近在视觉理解方面表现出了强大的性能,但它们往往缺乏时间意识,特别是在以自我为中心的环境中,其中推理取决于事件的正确排序和演变。这种缺陷部分源于训练目标未能明确奖励时间推理,而是依赖于帧级空间快捷方式。为了解决这个限制,我们提出了时态全局策略优化(TGPO),这是一种具有可验证奖励的强化学习(RLVR)算法,旨在激励时态……

HFO-1234yf 环境替代品被宣布为有毒化学品

HFO-1234yf Environmental Alternative Declared A Toxic Chemical

HFO-1234yf 环境替代品被宣布为有毒化学品HFO-1234yf 是环保人士吹捧的一种用于汽车空调系统的气候友好型替代制冷剂,但实际上可能比他们坚称造成污染的产品更严重。Hank CampbellMon,07/06/2026 - 18:01类别大气

墙也是路

A Wall Is Also A Road

墙也是路跳过术语表。是的,这是编辑们喜欢的事情,因为著名的沟通指南“假设缺乏词汇,但不缺乏智力”,但那是当你为广大公众写作时。科幻小说读者很聪明。Hank CampbellMon, 06/29/2026 - 09:00类别随机想法

使用专用模型重新审视 ASR 纠错

Revisiting ASR Error Correction with Specialized Models

语言模型在自动语音识别 (ASR) 中发挥着核心作用,但大多数方法依赖于纯文本模型,不知道 ASR 错误模式。最近,大型语言模型 (LLM) 已应用于 ASR 校正,但引入了延迟和幻觉问题。我们使用紧凑的 seq2seq 模型重新审视 ASR 纠错,该模型针对真实和合成音频的 ASR 错误进行训练。为了扩展训练,我们通过级联 TTS 和 ASR 构建合成语料库,发现匹配现实错误分布的多样性是关键。我们提出校正优先解码,其中校正......

HFO-1234yf 环境替代品被宣布为有毒化学品

HFO-1234yf Environmental Alternative Declared A Toxic Chemical

HFO-1234yf 环境替代品被宣布为有毒化学品HFO-1234yf 是环保人士吹捧的一种用于汽车空调系统的气候友好型替代制冷剂,但实际上可能比他们坚称造成污染的产品更严重。Hank CampbellMon,07/06/2026 - 18:01类别大气

Weblica:可视化 Web 代理的可扩展且可重复的培训环境

Weblica: Scalable and Reproducible Training Environments for Visual Web Agents

网络复杂、开放且不断变化,这使得扩展可视网络代理的训练数据变得具有挑战性。现有的数据收集尝试仍然仅限于用于监督微调的离线轨迹或用于 RL 训练的少数模拟环境,因此无法捕获网络多样性。我们提出了Weblica(Web Replica),一个用于构建可复制和可扩展的Web环境的框架。我们的框架利用 1) HTTP 级缓存来捕获和重播稳定的视觉状态,同时保留交互行为,以及 2) 基于 LLM 的环境合成......