详细内容或原文请订阅后点击阅览

使用AWS DLC，Amazon EKS和Amazon Bedrock

2025年7月29日 18:55 33 Comments
X Twitter Instagram Mail

在这篇文章中，我们提出了一个完整的解决方案，用于微调和部署Web自动化任务的Llama-3.2-11b-Vision-Instruct模型。我们演示了如何在Amazon Elastic Kubernetes Service（Amazon EKS）上使用AWS深度学习容器（DLC）建立安全，可扩展和高效的基础架构。

来源:亚马逊云科技 _机器学习
大型语言模型（LLM）的微调已成为寻求将强大的基础模型（FMS）适应其特定需求的组织的关键技术。与其从头开始训练模型，该过程可能耗资数百万美元并需要大量的计算资源，而是可以用特定于域的数据自定义现有模型，而这些模型的成本很少。随着医疗保健，金融和技术领域的组织希望将AI用于专业任务的同时，在维持成本效益的同时，这种方法变得特别有价值。但是，实施生产级的微调解决方案提出了一些重大挑战。组织必须浏览复杂的基础架构设置要求，执行鲁棒的安全措施，优化性能并建立可靠的模型托管解决方案。在这篇文章中，我们提供了一个完整的解决方案，用于微调和部署Llama-3.2-11b-Vision-Vision-Instruct Models用于Web自动化任务。我们演示了如何在Amazon Elastic Kubernetes Service（Amazon EKS）上使用AWS深度学习容器（DLC）建立安全，可扩展和高效的基础架构。通过使用AWS DLCS，您可以访问经过良好测试的环境，这些环境具有增强的安全功能和预安装的软件包，从而大大简化了您的微调过程的优化。这种方法不仅可以加速开发，而且在生产环境中提供了强大的安全性和性能。解决方案概述本节，我们探索了我们体系结构的关键组件，以微调元Llama模型并将其用于Web任务自动化。我们探讨了不同组件的好处以及它们如何相互作用，以及我们如何使用它们来构建生产级的微调管道。aws DLCS用于培训和托管AI/ML Workloadsat我们解决方案的核心是AWS DLC，为机器学习（ML）工作提供了优化的环境。这是
模型的 AWS 可靠的 基础架构 生产 大量的 机器学习 复杂的 完整的 建立 解决方案 组织 互作用 安装的 测试的 组织的 Llama 相互作用 提供 AI 安全措施 环境 训练模型 强大的 医疗保健 优化 体系结构 模型 结构的 微调 成本效益 Vision 关键技术 增强的 软件包 计算资源 有价值 自动化 安全性 用于