AI Agents Don’t Need More Context — They Need Typed Context
人工智能代理不仅存在上下文问题,还存在上下文输入问题。当指令、内存、检索到的证据和工具输出被扁平化为一个字符串时,它们的语义边界就会消失。我构建了一个轻量级、零依赖的 Python 运行时,它可以使这些边界保持明确,跟踪出处,并在无效的上下文转换到达模型之前拒绝它们。本文介绍了实现、测试以及这种方法的作用和不保证的内容。《人工智能代理不需要更多上下文 — 他们需要类型化上下文》一文首先出现在《走向数据科学》上。
Speculative Decoding on CPUs: Nearly 4x Faster Token Generation with DFlash
推测性解码可以将未充分利用的 CPU 计算转化为更快的令牌生成,而无需更改模型的输出。在我们的 vLLM 测试中,DFlash 在并发数为 1 时在 Intel Xeon 6 上使用 Qwen3.5-9B 实现了 3.92 倍的自回归吞吐量。我们详细分析了加速的来源,解释了接受指标,并展示了决定推测是否有效的因素。CPU 上的推测解码:使用 DFlash 使令牌生成速度加快近 4 倍首先出现在《走向数据科学》上。
10 Positions for Enterprise RAG That Mainstream Tutorials Get Wrong
企业文档智能 [Vol.1 #M3] - 该系列争论的十个立场,以及争论它们的每篇文章的地图主流教程错误的企业 RAG 的 10 个立场首先出现在《走向数据科学》上。
Can an LLM Forget the Right Things?
大多数 LLM 推理运行时不知道存在物理截止日期。这个拒绝入场而不是错过 33 毫秒的机器人控制周期,通过意义而不是年龄驱逐 KV 缓存,并且完全用手写 CUDA 编写 - 没有 cuBLAS,没有 libtorch。 帖子 Can an LLM Forget the Right Things? 帖子 Can an LLM Forget the Right Things?首先出现在《走向数据科学》上。
McMahon Says Trade School Guidance Could Start in Elementary School, Touts AI Tutoring in Classrooms
华盛顿——教育部长琳达·麦克马洪周日表示,公立学校应从小学开始引导学生走向职业道路,包括技工行业,同时为K-12课堂中日益增长的AI工具使用进行辩护。
A Classroom in Concert: How to Design a Truly Rockin’ Learning Experience
我的家人正在买票去看他们最喜欢的乐队之一。他们在争论是否给我买一张,知道我不是很爱去现场演唱会的人。我出乎所有人意料地同意去了。当我们走向场馆时,我完全预料不会享受这个夜晚。我错了……《课堂音乐会:如何设计真正“摇滚”的学习体验》首发于Faculty Focus | Higher Ed Teaching & Learning。
Retrieve One Row from a Table, Not the Whole Table: Row-Level Chunks for RAG
企业文档智能 [Vol.1 #7sexies] - 检索单位不一定是页面或段落。当语料库包含表格时,每个正文行及其列标题本身就是一个块,并且通常是读者询问的一行从表中检索一行,而不是整个表:RAG 的行级块首先出现在走向数据科学上。
Parse the Folder, Not Just the PDFs: The Relational Tables RAG Needs on a Case File
企业文档智能 [Vol.1 #14D] - 索引列出了打开任何文件夹之前案例类型的要求,并且值得构建的两个问题根本不是检索问题帖子解析文件夹,而不仅仅是 PDF:案例文件中 RAG 需要的关系表首先出现在走向数据科学上。
Three Kinds of RAG Corpus, and What It Costs to Build for the Wrong One
企业文档智能 [Vol.1 #14A] - 三个问题告诉您文档集合具有哪种形状,每种形状都需要不同的架构《三种 RAG 语料库以及构建错误语料库的成本》一文首先出现在《走向数据科学》上。
The Types of Dimensions in a Star Schema, and How to Use Them
维度是维度建模中两种主要对象类型之一。但维度有哪些不同类型?如何使用它们?星型模式中的维度类型以及如何使用它们一文首先出现在《走向数据科学》上。
Building a Proper Backend for My LangGraph AI Agent
将演示代理转变为可以保留真实预订数据的东西为我的 LangGraph AI 代理构建适当的后端一文首先出现在走向数据科学上。
Bayesian Guardrails for AI Decisions: Measuring Uncertainty Before Automating Decisions
人工智能系统不应仅仅因为可以提供预测而自动做出决策。决策系统应该考虑预测的不确定性,如果错误代价高昂,则应推迟决策。人工智能决策的后贝叶斯护栏:在自动化决策之前测量不确定性首先出现在《走向数据科学》上。
Making the Knowledge Layer a Graph You Actually Traverse
为什么检索质量应该是系统的属性,而不是问题措辞的属性?通过对每个查询、双时态边缘和双阈值实体解析进行图遍历来重建知识层。使知识层成为您实际遍历的图的帖子首先出现在走向数据科学上。
Survival Analysis and the Cox Proportional Hazards Model: A Beginner-Friendly Guide
从 Kaplan-Meier 曲线到可运行 Python 代码的风险比后生存分析和 Cox 比例风险模型:初学者友好指南首先出现在《走向数据科学》上。
Multi-Document RAG: A Folder of Unrelated PDFs Is One Long Document with a Nested Outline
企业文档智能 [Vol.1 #14B] - 没有共享字段意味着无需构建索引。每个文件一个摘要行加上每个文件自己的目录,检索路线向下两层多文档 RAG:不相关 PDF 的文件夹是一个带有嵌套大纲的长文档,首先出现在走向数据科学上。
Estimating from No Data: Deriving a Continuous Score from Categories
当只有分类标签可用于训练时,使用低容量网络获取细粒度评分的演练及其背后的数学原理从无数据进行估计:从类别中得出连续分数的帖子首先出现在走向数据科学上。
A Classroom in Concert: How to Design a Truly Rockin’ Learning Experience
我的家人正在买票去看他们最喜欢的乐队之一。他们争论是否要给我买一张,因为他们知道我不太喜欢现场音乐会。我让我们所有人都感到惊讶并同意去。当我们走向会场时,我满心期待着不会享受这个夜晚。我错了。我最不知道[…]帖子《音乐会的课堂:如何设计真正的摇滚学习体验》首先出现在《教师焦点》|高等教育教学与学习。
How to Scale an Integration Pipeline Without Breaking Correctness
将企业集成管道从每秒 500 个事件扩展到 8,000 个事件的生产帐户,这两个正确性保证了吞吐量工作永远不会被允许牺牲。如何在不破坏正确性的情况下扩展集成管道的帖子首先出现在走向数据科学上。