详细内容或原文请订阅后点击阅览
自动编写 LLM 提示
使用 DSPy 自动创建、评估和优化您的提示自动编写您的 LLM 提示一文首先出现在走向数据科学上。
来源:走向数据科学我们可能都有过得到不完全符合我们想要的回复的经历。通常我们会尝试多次重新措辞提示，直到得到合理的结果。有时我们必须更清楚、更精确，举例说明，描述为什么我们需要回应，呈现人物形象，或以其他方式提供足够的背景和信息，以便法学硕士能够提供合适的回应。
当我们直接与法学硕士合作时，这可能没问题。然而，当我们编写基于 LLM 的应用程序时，情况就大不相同了——软件将自行执行，并且这样做将与一个或多个 LLM 交互。在这里，软件将使用预定义的提示，并将这些提示传递给法学硕士。如果进展不顺利，我们不会重写提示并重试。这意味着，它们首先必须以健壮且可靠的方式编写——我们需要提示，以确保我们可以确信它们在生产中能够持续良好地工作。
创建这样的提示可能很棘手。在本文中，我们将讨论其中的原因，以及名为 DSPy 的 Python 工具如何支持创建可靠的提示。 DSPy 不仅会自动为您生成提示，还会对它们进行彻底评估，因此您可以对它们在生产中的工作效果充满信心。
我还将提供我与 Manning Publishing 合作的最新著作《使用 DSPy 构建 LLM 应用程序》的摘录，该书与 Serj Smorodinsky 合着。它提供了 DSPy 的完整描述以及如何使用它来创建基于 LLM 的应用程序。
书籍封面图片
创建可以在生产中可靠工作的提示的技巧
prompt_text = f“评估以下文本的可信度：{document_text}”
我们可能需要调整提示以始终获得我们期望的响应。首先，我们可以尝试这个和其他一些简单的提示，但最终的提示可能会比这个更长、更详细。