上下文工程 - 与DSPY的全面动手教程

让我们剖析上下文工程的艺术和科学,一次是一个模块!邮政上下文工程 - 与DSPY的全面动手教程首先出现在数据科学上。

来源:走向数据科学

现在的上下文工程。本文将涵盖使用上下文工程原理创建LLM应用程序的关键想法,以视觉上解释这些工作流以及共享代码片段,这些代码片段实际上应用了这些概念。

上下文工程

不必担心将本文中的代码复制到您的编辑器中。 在本文的结尾,我将分享指向开源代码存储库的github链接,以及指向我1小时20分钟的YouTube课程的链接,该课程更详细地说明了此处介绍的概念。

在本文末尾,我将共享指向开源代码存储库的github链接,以及指向我1小时20分钟的YouTube课程的链接,该课程详细介绍了此处介绍的概念。

除非另有提及,否则本文中使用的所有图像均由作者制作并可以免费使用。

让我们开始吧!

什么是上下文工程?

编写简单提示和建立生产就绪的应用之间存在很大的差距。上下文工程是一个伞,是指将信息拟合到LLM的上下文窗口的精致艺术和科学,因为它在任务上有效。

上下文工程的定义开始和结束的确切范围是有争议的,但是根据Andrej Karpathy的推文,我们可以确定以下关键点:

Andrej Karpathy的这推文
  • 不仅是原子及时工程,在其中您向LLM提出一个问题并获得答复
  • 只是
  • 这是一种整体方法,将更大的问题分解为多个子问题
  • 这些子问题可以通过多个LLM(或代理)隔离解决。为每个代理提供适当的上下文以执行其任务
  • 每个代理都具有适当的功能和大小,具体取决于任务的复杂性。
  • 不仅仅是 中间令牌
  • 代理与控制流相连,我们精确协调信息如何流过系统
  • 重要:本文的结构如何

    一切 上下文中毒

    为什么DSPY