Run Qwen3.8-27B as a Local AI Coding Agent in Just 3 Commands
下载 Ollama，拉取并提供 Qwen3.8-27B，并仅使用三个命令行通过 OpenCode 启动它。
Going Deeply into the Weeds & Standing Up a New Local LLM: THURSDAY MAMLMS
餐桌下的LLM大比拼：开源权重alibaba/qwen3.8:27b的发布，以及在一台顶配M5 Max MacBook Pro上测试四个本地LLM……
Speculative Decoding on CPUs: Nearly 4x Faster Token Generation with DFlash
推测性解码可以将未充分利用的 CPU 计算转化为更快的令牌生成，而无需更改模型的输出。在我们的 vLLM 测试中，DFlash 在并发数为 1 时在 Intel Xeon 6 上使用 Qwen3.5-9B 实现了 3.92 倍的自回归吞吐量。我们详细分析了加速的来源，解释了接受指标，并展示了决定推测是否有效的因素。CPU 上的推测解码：使用 DFlash 使令牌生成速度加快近 4 倍首先出现在《走向数据科学》上。
How to Utilize OKF Efficiently to Enable Knowledge Exchange Among LLMs
Google 的开放知识格式 (OKF) 是一个 Markdown+YAML 框架，用于在人类和 AI 代理之间共享知识。这篇文章在一项非常具体的工作中重用了该框架——在三个 Qwen2.5-Coder 模型（7B、3B、1.5B）之间进行预标记化整数数组的代理到代理的交接，并显示了 28-37% 的 TTFT 减少以及一个确保整个安全的全词汇等效性检查。如何有效利用 OKF 来实现 LLM 之间的知识交换的文章首先出现在 Towards Data 上科学。
Teaching LLMs to Update Beliefs for Efficient Long-Horizon Interaction
ABBEL 与传统递归摘要相比的概述。信念取代了完整的交互历史作为代理的工作环境，信念分级通过监督每个信念状态的内容来提高性能。随着任务范围的增长，LLM 环境无法永远扩展。自总结可以实现简洁、可解释的上下文，但会带来显着的性能成本，特别是对于高质量数据稀缺的人工辅助领域，例如协作代码生成。我们用 ABBEL 来解决这个问题：一个框架，以自然语言信念状态的形式隔离和监督摘要的信息内容。动机：递归摘要的成本对于语言模型来说，要有效地协助日益复杂的任务，例如软件开发，它们必须能够与我们进行数百甚至数千个步骤的交互。对于如此长的任务，将整个交互的历史记录保存在上下文中是不切实际的。迄今为止使用的启发
