Customize Amazon Nova models to improve tool usage
在这篇文章中,我们演示了与Amazon Nova一起使用的模型自定义(微调)。我们首先引入工具用例用例,并提供有关数据集的详细信息。我们介绍了亚马逊NOVA特定数据格式的详细信息,并展示了如何通过Converse进行工具并在Amazon Bedrock中调用API。在获得亚马逊NOVA模型的基线结果后,我们详细解释了微调过程,托管带有配置吞吐量的微型模型,并使用微调的Amazon Nova模型进行推理。
AFX团队的产品迁移到Nova Lite模型已通过增强销售工作流提供了切实的企业价值。通过迁移到亚马逊Nova Lite模型,该团队不仅可以节省大量成本并减少了延迟,而且还为卖家提供了领先的智能和可靠解决方案。
在这篇文章中,我们将使用OpenSearch Service构建混合搜索解决方案,该服务由亚马逊泰坦多模式多模式嵌入G1模型通过Amazon Bedrock提供的多模式嵌入。该解决方案演示了如何使用户提交文本和图像作为查询,以从示例零售图像数据集中检索相关结果。
Protect sensitive data in RAG applications with Amazon Bedrock
在这篇文章中,我们探讨了使用Amazon Bedrock在抹布应用中确保敏感数据的两种方法。第一种方法着重于在摄入亚马逊基石知识库之前识别和编辑敏感数据,第二种方法显示了一种细粒度的RBAC模式,用于管理检索过程中访问敏感信息的访问。这些解决方案仅代表了在生成AI应用中确保敏感数据的众多方法中的两种可能的方法。
Supercharge your LLM performance with Amazon SageMaker Large Model Inference container v15
今天,我们很高兴地宣布,由VLLM 0.8.4驱动的Amazon Sagemaker大型推理(LMI)容器V15的推出,并支持VLLM V1发动机。该版本引入了显着的性能提高,扩展的模型兼容性与多模态(即能够理解和分析文本到文本,图像到文本和文本映射数据),并与VLLM提供内置的集成,以帮助您无人接缝和最高绩效的大型性能(LLMS)具有最高的性能。
在这篇文章中,我们探讨了Infosys如何开发Infosys事件AI来解锁事件和会议产生的见解。通过其功能套件(包括实时转录,智能摘要和交互式聊天助手)Infosys Event AI使活动知识可访问,并在活动期间和活动结束后为与会者提供了沉浸式的参与解决方案。
Amazon Bedrock Prompt Optimization Drives LLM Applications Innovation for Yuewen Group
今天,我们很高兴地宣布在亚马逊基岩上迅速优化。使用此功能,您现在可以使用单个API调用或单击Amazon Bedrock控制台上的按钮来优化几个用例的提示。在这篇博客文章中,我们讨论了如何提示优化改善Yuewen Group中智能文本处理任务的大语言模型(LLMS)的性能。
Build an automated generative AI solution evaluation pipeline with Amazon Nova
在这篇文章中,我们探讨了在生成AI应用程序中评估LLM的重要性,从而强调了幻觉和偏见等问题所带来的挑战。我们使用AWS服务引入了全面的解决方案来自动化评估过程,从而可以持续监视和评估LLM性能。通过使用诸如FMEVAL库,Ragas,LLMeter和Step功能之类的工具,该解决方案提供了灵活性和可扩展性,可以满足LLM消费者不断发展的需求。
Stream ingest data from Kafka to Amazon Bedrock Knowledge Bases using custom connectors
在这篇文章中,我们使用Amazon Managed Streaming为Apache Kafka(Amazon MSK)构建的自定义连接器和主题实现了一个带有亚马逊基岩知识库的RAG架构,该架构可能有兴趣了解股票价格趋势。
Add Zoom as a data accessor to your Amazon Q index
这篇文章演示了缩放用户如何在其缩放界面中直接访问其Amazon Q Business Enterprise数据,从而减轻了在维护企业安全边界的同时在应用程序之间切换的需求。现在,组织可以将Zoom配置为Amazon Q业务中的数据登录器,从而在其Amazon Q Index和Zoom AI Companion之间无缝集成。这种集成使用户可以直接在Zoom平台内以受控方式访问其企业知识。
The future of quality assurance: Shift-left testing with QyrusAI and Amazon Bedrock
在这篇文章中,我们探讨了Qyrusai和Amazon Bedrock如何彻底改变左翼测试,从而使团队能够更快地提供更好的软件。亚马逊Bedrock是一项完全管理的服务,允许企业使用领先的AI提供商的基础模型(FMS)构建和扩展生成AI应用程序。它可以使其与AWS服务无缝集成,在不管理基础架构的情况下提供自定义,安全性和可扩展性。
Automate video insights for contextual advertising using Amazon Bedrock Data Automation
亚马逊基岩数据自动化(BDA)是由FMS在亚马逊基岩中提供动力的新型托管功能。 BDA从非结构化内容(包括文档,图像,视频和音频)提取结构化输出,同时减轻了对复杂自定义工作流程的需求。在这篇文章中,我们演示了BDA如何自动提取丰富的视频见解,例如章节和音频段,检测场景中的文本,并分类交互式广告局(IAB)分类学,然后使用这些见解来构建非线性广告解决方案,以增强上下文广告的有效性。
How Salesforce achieves high-performance model deployment with Amazon SageMaker AI
这篇文章是Salesforce和AWS之间的共同合作,并且在Salesforce Engineering Blog和AWS机器学习博客上都在交叉发布。 Salesforce AI模型服务团队正在努力突破自然语言处理的界限和企业应用程序的AI功能。他们的关键重点领域包括优化大型[…]
Automate Amazon EKS troubleshooting using an Amazon Bedrock agentic workflow
在这篇文章中,我们演示了如何编排多个亚马逊基岩代理商来创建复杂的亚马逊EKS故障排除系统。通过启用专业代理商之间的合作(来自K8SGPT的见解并通过ARGOCD框架执行行动),您可以建立一个全面的自动化,以最少的人为干预来识别,分析和解决集群问题。
Clario enhances the quality of the clinical trial documentation process with Amazon Bedrock
Clario和AWS之间的合作证明了AWS AI和机器学习(AI/ML)服务的潜力和生成的AI模型,例如Anthropic的Claude,以简化生命科学行业的文档生成过程,具体来说,特别是对于复杂的临床试验过程。
Optimizing Mixtral 8x7B on Amazon SageMaker with AWS Inferentia2
这篇文章演示了如何在AWS推理的实例上部署和服务Mixtral 8x7b语言模型,以进行具有成本效益,高性能推断。我们将使用拥抱面孔的最佳神经元进行模型汇编,该神经元提供了一组工具,可直接加载,训练和推理以及文本生成推理(TGI)容器,该容器具有用于部署和服务LLMS与HOUGGingFace的工具套件。
Elevate business productivity with Amazon Q and Amazon Connect
在这篇文章中,我们通过利用Amazon Q提供了洞察力来提高业务生产力,以提供研究,数据分析和报告Amazon Connect中潜在的欺诈案例。