使用亚马逊基岩的结构化数据响应:及时工程和工具使用

我们演示了两种使用Amazon Bedrock生成结构化响应的方法:与Converse API一起使用及时工程和工具。及时的工程是灵活的,可与基岩型号(包括没有工具使用支持的型号)一起使用,并处理各种模式类型(例如,开放API模式),使其成为一个很好的起点。工具使用提供了更大的可靠性,一致的结果,无缝的API集成以及JSON模式的运行时验证,以增强控制。

来源:亚马逊云科技 _机器学习
生成的AI正在通过简化运营和实现创新来彻底改变行业。尽管与Genai的文本聊天交互仍然很流行,但现实世界中的应用程序通常取决于API,数据库,数据驱动的工作负载和丰富用户界面的结构化数据。结构化数据还可以增强对话式AI,从而实现更可靠和可行的输出。一个关键的挑战是LLM(大型语言模型)本质上是不可预测的,这使得他们很难产生像JSON这样的一致结构化输出。之所以出现此挑战,是因为他们的培训数据主要包括非结构化文本,例如文章,书籍和网站,其结构化格式相对较少。结果,LLM在生成JSON输出时可能会精确地挣扎,这对于无缝集成到现有API和数据库至关重要。模型支持结构化响应的能力各不相同,包括识别数据类型和有效管理复杂层次结构。 These capabilities can make a difference when choosing the right model.This blog demonstrates how Amazon Bedrock, a managed service for securely accessing top AI models, can help address these challenges by showcasing two alternative options:Prompt Engineering: A straightforward approach to shaping structured outputs using well-crafted prompts.Tool Use with the Bedrock Converse API: An advanced method that enables better control, consistency, and native JSON schema integration.We will use a客户审查分析示例以证明基岩如何使用简化的Python代码产生结构化的输出,例如情感分数。构建及时的工程解决方案,这将演示如何使用Amazon Bedrock有效地使用及时工程来生成结构化的输出。及时的工程涉及制定精确的输入提示,以指导大型语言模型(LLM)产生一致和结构​​化的响应。这是一种基本技术