Amazon Nova结构化输出:建筑商指南

,我们启动了约束解码,以便在使用结构化输出工具时提供可靠性。现在,可以与Amazon Nova Foundation模型(FMS)一起使用工具来根据复杂的模式提取数据,从而将工具使用错误降低了95%以上。在这篇文章中,我们探讨了如何将Amazon Nova FMS用于结构化输出用例。

来源:亚马逊云科技 _机器学习
开发人员构建AI应用程序面临着一个共同的挑战:将非结构化数据转换为结构化格式。结构化输出对于机器对机器通信用例至关重要,因为这使下游用例可以更有效地消费和处理生成的输出。无论是从文档中提取信息,创建从API中获取数据的助手,还是开发采取行动的代理,这些任务都需要基础模型以特定的结构化格式生成输出。我们启动了约束解码,以在使用结构化输出工具时提供可靠性。现在,可以与Amazon Nova基金会模型(FMS)一起使用工具来根据复杂的模式提取数据,将工具使用错误降低了95%。在这篇文章中,我们探讨了如何将Amazon Nova FMS用于结构化输出用例。Techniques用于实施结构性输出的techniques,以实现对结构化输出案例的需求,以实现两种常见的实现。您可以修改系统提示或利用工具调用。例如,在客户支持用例中,您可能希望该模型以其对用户的响应和当前情绪的响应输出JSON。因此,将修改系统提示以包括预期结构:确保您的最终响应是有效的JSON,遵循以下响应模式:##响应模式``````````''':“响应”:“对客户”,“情感”:“当前的客户情感”}}工具调用是通过与Converse API的请求模式到模型所需的最终应用程序所需的API,代码功能或架构(或结构)的行为。这是在构建代理应用程序时最常使用的,但也经常在结构化输出用例中使用,因为能够定义模型应粘附的集合模式。