自定义Amazon Nova模型以改善工具使用

在这篇文章中,我们演示了与Amazon Nova一起使用的模型自定义(微调)。我们首先引入工具用例用例,并提供有关数据集的详细信息。我们介绍了亚马逊NOVA特定数据格式的详细信息,并展示了如何通过Converse进行工具并在Amazon Bedrock中调用API。在获得亚马逊NOVA模型的基线结果后,我们详细解释了微调过程,托管带有配置吞吐量的微型模型,并使用微调的Amazon Nova模型进行推理。

来源:亚马逊云科技 _机器学习
现代大型语言模型(LLMS)在语言处理中出色,但受其静态培训数据的限制。但是,随着行业需要更多的自适应,决策AI,整合工具和外部API已成为必不可少的。这导致了代理工作流程的演变和快速上升,AI系统自主计划,执行和完善任务。 Accurate tool use is foundational for enhancing the decision-making and operational efficiency of these autonomous agents and building successful and complex agentic workflows.In this post, we dissect the technical mechanisms of tool calling using Amazon Nova models through Amazon Bedrock, alongside methods for model customization to refine tool calling precision.Expanding LLM capabilities with tool useLLMs excel at natural language tasks but become significantly more powerful with tool integration, such as APIs and计算框架。工具使LLM可以访问实时数据,执行特定于域的计算并检索精确的信息,从而提高其可靠性和多功能性。例如,集成天气API允许进行准确,实时的预测,或者Wikipedia API为复杂查询提供了最新信息。在科学背景下,计算器或符号引擎等工具解决了LLM中的数值不准确性。 These integrations transform LLMs into robust, domain-aware systems capable of handling dynamic, specialized tasks with real-world utility.Amazon Nova models and Amazon BedrockAmazon Nova models, unveiled at AWS re:Invent in December 2024, are optimized to deliver exceptional price-performance value, offering state-of-the-art performance on key text-understanding benchmarks at low cost.该系列包括三个变体:微型(仅文本,超高效率用于边缘使用),LITE(多模式,用于多功能性)和Pro(多模式,高性能的复杂任务)。