详细内容或原文请订阅后点击阅览
代理提示工程:深入研究LLM角色和基于角色的格式
在LLM和代理商中使用角色的实用指南,其中包括Clarifai,Crewai和Google ADK的示例。
来源:Clarifai博客 | 实际应用中的人工智能简介
大型语言模型(LLM)通过使对话感觉直觉,响应且越来越聪明,改变了我们与机器互动的方式。他们现在为从基本聊天接口到复杂的AI代理的所有功能,这些代理可以计划,推理和跨任务采取行动。
什么使这种智能不仅仅是模型的参数。这就是我们结构互动的方式。为了释放LLM的全部潜力,尤其是在多转弯或工具启动的设置中,该模型必须了解谁在说话,他们在扮演什么角色以及在对话中已经发生了什么。
这是角色所在的地方,例如系统,用户和助手,它定义了每个消息背后的上下文和意图。在更高级的代理系统中,诸如tool_use,tool_result和Planner等其他角色有助于组织推理和决策。这些角色指导模型的行为,确保保留上下文,并启用简单文本生成以外的动作。
角色系统
用户
助手
tool_use
tool_result
计划者
无论您是建立友好的聊天机器人还是完全自主的代理,理解和使用基于角色的格式是构建可靠有效的LLM应用程序的关键。
了解LLM对话中的角色
在基于聊天的应用程序或代理系统中与LLMS合作时,角色有助于构建对话。每个消息都有一个角色,可以告诉模型谁在讲话以及它是什么样的消息。这有助于模型决定如何做出响应并跟踪对话。
基本角色是系统,用户和助手。这些涵盖了大多数日常用例。在更高级的设置中,例如构建AI代理时,添加了额外的角色来处理工具,推理步骤或功能调用等内容。现在,让我们看一下每个角色如何符合整体流程,从简单的对话到代理级别的功能。
1。系统角色:设置行为
示例:
2。用户角色:人类输入
3。助理角色:模型的响应
OpenAi:工具