如何通过利用上下文工程来显着增强LLM

llms的上下文工程的好处和实践方面帖子如何通过利用上下文工程来显着增强LLM,首先出现在数据科学上。

来源:走向数据科学

是为LLM提供正确上下文以最大化性能的科学。使用LLMS时,通常会创建系统提示,要求LLM执行某个任务。但是,从程序员的角度与LLMS合作时,还有更多要考虑的要素。您必须确定可以喂养LLM的其他数据,以提高其执行要求执行任务的任务的能力。

在本文中,我将讨论上下文工程的科学以及如何应用上下文工程技术来提高LLM的性能。

在本文中,我讨论了上下文工程:为您的LLM提供正确的上下文的科学。正确利用上下文工程可以显着提高LLM的性能。图片由chatgpt。

您还可以阅读我有关LLM应用程序可靠性的文章,并使用多模式LLMS

LLM应用程序的可靠性 使用多模式LLMS

目录

定义

在我开始之前,定义上下文工程术语很重要。上下文工程本质上是决定要进食LLM的科学。例如,这可以是:

    系统提示,该提示告诉llm如何使用rag vector searchfew-shot extplestools
  • 系统提示,告诉LLM如何采取行动
  • 使用RAG矢量搜索获取文档数据
  • 几个示例
  • 工具
  • 对此的最接近的描述是术语提示工程。但是,及时工程学是一个描述性较少的术语,因为它意味着仅更改系统提示您要送给LLM。要从LLM中获得最大的性能,您必须考虑所馈入的所有上下文,而不仅仅是系统提示。

    提示工程

    动机

    我本文的最初动机来自阅读Andrej Karpathy的这篇推文。

      您应该将哪些数据插入您的提示中,您是否获取Datahow,以仅向LLMETC提供相关信息。
  • 等。
  • 零射