上下文工程是新的即时工程

这不再是巧妙措辞的问题。这是关于设计人工智能可以深度、一致和有目的地思考的环境。

来源:KDnuggets
图片由编辑提供

# 简介

#

每个人都痴迷于制作完美的提示——直到他们意识到提示并不是他们想象的那样神奇。真正的力量在于它们周围的东西:数据、元数据、记忆和叙事结构,它们赋予人工智能系统一种连续性的感觉。

情境工程正在取代即时工程,成为新的控制前沿。这不再是巧妙措辞的问题。这是关于设计人工智能可以深度、一致和有目的地思考的环境。

替换提示工程

这种转变虽然微妙,但却是震撼人心的:我们正在从提出智能问题转向为模型构建更智能的世界。

# 即时热潮的短暂生命

当 ChatGPT 刚兴起时,人们相信及时的措辞可以释放无限的创造力。工程师和有影响力的人士在 LinkedIn 上填满了“神奇”模板,每个模板都声称可以破解模型的大脑。一开始很令人兴奋,但持续时间很短,我们意识到即时工程从来都不是为了规模化。一旦用例从一次性聊天转移到企业工作流程,漏洞就会显现出来。

我们意识到即时工程从来都不是为了规模化

提示依赖于语言的准确性,而不是逻辑。他们很脆弱。更改一个单词或标记,系统的行为就会不同。在小型实验中,这很好。生产中?这是混乱。

公司了解到,模型会忘记、漂移和误解上下文,除非你每次都用勺子喂它们。于是,行业发生了转移。工程师不再不断地重新措辞提示,而是开始构建通过内存、元数据和结构来维持含义的框架。因此,情境工程成为保持一致性的粘合剂。

上下文工程成为保持连贯性的粘合剂

# 上下文才是真正的界面

上下文窗口 诞生了上下文工程学科 检索增强生成 模型从精选的知识库中提取即时上下文

# 理解背后的架构