详细内容或原文请订阅后点击阅览

使用Amazon Nova Micro和Amazon Nova Lite

2025年6月25日 16:50 33 Comments
X Twitter Instagram Mail

在这篇文章中，我们分享了亚马逊内部技术团队如何评估亚马逊Nova车型，从而显着提高了推理速度和成本效益。

来源:亚马逊云科技 _机器学习
亚马逊的运营遍及全球，每天触及数百万客户，员工和供应商的生活。从庞大的物流网络到尖端的技术基础架构，此规模证明了公司创新和为客户提供服务的能力。随着这一规模，管理风险和解决索赔的责任 - 是否涉及工人的赔偿，运输事件或其他与保险有关的事项。风险经理在整个生命周期内监督对亚马逊的索赔。来自各种来源的索赔文件随着索赔的成熟而增长，单一索赔平均包括75个文件。风险经理必须严格遵循相关的标准操作程序（SOP），并审查数十个索赔方面的演变，以评估严重性并采取适当的措施，对每个索赔进行公平，高效地审查和解决每个索赔。但是随着亚马逊继续增长，风险经理如何有能力跟上越来越多的索赔？在2024年12月，亚马逊的一个内部技术团队建立并实施了与与公司索赔有关的数据应用的AI驱动解决方案。该解决方案在各个类别中生成了500个单词以下索赔的结构化摘要，从而提高了效率，同时保持了索赔审查过程的准确性。但是，该团队面临着挑战成本和处理时间高的挑战（每个索赔3-5分钟），尤其是随着新文件的添加。由于团队计划将这项技术扩展到其他业务线路，他们探索了亚马逊NOVA基金会的模型，作为解决成本和延迟问题的潜在替代方案。以下图显示了与索赔数据集中各种基础模型相比的延迟和成本相比的延迟和性能，对索赔数据的评估总结用例证明，Amazon Nova Nova Foundation（FMS）是其他Frantier Entrantier offermiers大型语言（llms）
应用的 标准操作程序 提高 延迟 适当的 成本 供应商 庞大的 评估 准确性 生命周期 文件 替代方案 客户 操作程序 数据 处理时间 技术 解决 相关的 严重性 Nova 尖端的 技术基础 索赔 标准操作 有关的 业务线 服务的 亚马逊 审查过程 数据集 经理 技术团队 风险 每个