使用DSPY优化的系统llm提示工程

本文是LLM提示迭代的迷人和快速发展的科学的旅程,这是大型语言模型操作(LLMOPS)的基本组成部分。我们将使用现实世界数据集生成客户服务响应的示例,以展示如何以系统的方式开发生成器和LLM判断提示[…]使用DSPY优化的系统LLM提示工程首先出现在数据科学方面。

来源:走向数据科学

进入了LLM及时及其引人入胜且快速发展的科学,这是大型语言模型操作(LLMOPS)的基本组成部分。我们将使用现实世界数据集生成客户服务响应的示例,以展示如何以DSPY的系统方式开发发电机和LLM-Gudge提示。该项目的所有代码,包括几本笔记本电脑和Claude编写的不错的读数,可以在此处找到。

dspy 在这里

应用的AI领域通常涉及以生成业务价值的方式将数据连接到大语言模型(LLM)的管道正在迅速发展。开发人员供开发人员选择大量开放和封闭的源模型,许多最新模型在诸如编码和技术写作之类的生成任务中匹配或超过专家的人类水平绩效。 Gemini 2.5等几种旗舰模型也是本地多模式的,具有视频和音频功能,以不明智的人类方式与用户交谈。的确,AI的帮助已经很快就涉及我们的日常生活 - 例如,在过去的几个月中,我一直在使用它来编码,集思广益的想法和一般建议。这是一个新世界,我们都在学习导航,并且使用如此强大的技术触手可及,很容易开始并建造POC。但是,LLM驱动的项目在从研究到生产的过程中仍然面临着重大障碍。

1.0提示迭代的挑战

2.0谁评估输出?

3.0添加复杂性

图1:发电机和LLM法官提示优化的高级工作流程。最初是更新POC发电机提示的一个看似简单的过程,可以成为一条复杂的管道,该管道将受益于版本控制,实验跟踪和其他LLMOPS概念。作者生成的图像。

4.0本文的目的

各节的排列如下:

5.0数据集和目标

gemini-2.5-flash .map()