Build and deploy a UI for your generative AI applications with AWS and Python
AWS 提供了一套强大的工具和服务,简化了生成式 AI 应用程序的构建和部署过程,即使对于前端和后端开发经验有限的人也是如此。在这篇文章中,我们探索了一种实用的解决方案,该解决方案使用 Streamlit(用于构建交互式数据应用程序的 Python 库)和 AWS 服务(如 Amazon Elastic Container Service (Amazon ECS)、Amazon Cognito 和 AWS 云开发工具包 (AWS CDK))来创建具有身份验证和部署功能的用户友好型生成式 AI 应用程序。
October Recap: New AWS Sensitive Permissions and Services
随着 AWS 的不断发展,我们经常引入新的服务和权限来增强功能和安全性。本博客全面回顾了 2024 年 10 月添加的新敏感权限和服务。我们分享此内容的目的是标记最重要的版本,以便您关注并更新您的权限和 […]
On the Programmability of AWS Trainium and Inferentia
使用自定义运算符加速 AI/ML 模型训练 — 第 4 部分照片由 Agata Bres 在 Unsplash 上拍摄在这篇文章中,我们继续探索通过自定义运算符开发来优化机器学习 (ML) 工作负载运行时的机会。这一次,我们重点介绍 AWS Neuron SDK 提供的工具,用于在 AWS Trainium 和 AWS Inferentia 上开发和运行新内核。随着推动 AI 革命的低级模型组件(例如注意层)的快速发展,用于训练和运行 ML 模型的加速器的可编程性至关重要。专用 AI 芯片必须为广泛使用且影响深远的通用 GPU (GPGPU) 开发框架(例如 CUDA 和 Triton)提供有
Advance environmental sustainability in clinical trials using AWS
在本文中,我们将讨论如何使用 AWS 支持分散式临床试验,涵盖分散式临床试验的四大支柱(虚拟试验、个性化患者参与、以患者为中心的试验设计和集中式数据管理)。通过探索这些由 AWS 提供支持的替代方案,我们旨在展示组织如何推动更环保的临床研究实践。
Accelerate custom labeling workflows in Amazon SageMaker Ground Truth without using AWS Lambda
Amazon SageMaker Ground Truth 支持创建高质量、大规模的训练数据集,这对于在包括大型语言模型 (LLM) 和生成式 AI 在内的各种应用程序中进行微调至关重要。通过将人工注释者与机器学习相结合,SageMaker Ground Truth 显着降低了数据标记所需的成本和时间。无论是注释图像、视频还是 […]
Super charge your LLMs with RAG at scale using AWS Glue for Apache Spark
在本文中,我们将探讨在 LangChain(一个基于 LLM 构建应用程序的开源框架)上构建可重复使用的 RAG 数据管道,并将其与 AWS Glue 和 Amazon OpenSearch Serverless 集成。最终解决方案是可扩展 RAG 索引和部署的参考架构。
Getting Started: How to Set up a Full-Stack App with AWS and Bedrock
我希望拥有的 AWS Bedrock 教程:为 AWS 基础设施准备机器所需了解的一切第 1 部分:节省无数小时处理零散和不完整文档的时间,并在不到一小时内准备好您的环境作者使用 Midjourney 生成的图像如何将笔记本中一个漂亮的小型机器学习原型开发成一个强大的全栈 Web 应用程序?虽然这个过程似乎令人生畏,但这个由多个部分组成的系列将帮助您一步一步解决学习曲线,指导您解决最棘手的权限问题(AWS 因该问题而臭名昭著)。在本系列结束时,您将拥有一个功能齐全的语言翻译应用程序,并建立了快速扩展自己的 GenAI 管道所需的概念知识。这是我们关于 🌊 构建由 Amazon Bedrock
AI Model Optimization on AWS Inferentia and Trainium
使用 AWS Neuron SDK 加速 ML 的技巧照片由 julien Tromeur 在 Unsplash 上拍摄我们正处于人工智能的黄金时代,尖端模型颠覆了行业并准备改变我们所知的生活。推动这些进步的是越来越强大的人工智能加速器,例如 NVIDIA H100 GPU、Google Cloud TPU、AWS 的 Trainium 和 Inferentia 芯片等。随着选项数量的增加,选择最适合我们的机器学习 (ML) 工作负载的平台的挑战也随之而来——考虑到与 AI 计算相关的高成本,这是一个至关重要的决定。重要的是,对每个选项进行全面评估需要确保我们最大限度地利用它以充分利用其功能。
在本文中,我们将介绍如何使用 Amazon EC2 Inf2 实例在专用 AWS AI 芯片 AWS Inferentia2 上经济高效地部署多个行业领先的 LLM,帮助客户快速测试并开放 API 接口,以同时促进性能基准测试和下游应用程序调用。
Using Amazon Q Business with AWS HealthScribe to gain insights from patient consultations
在本文中,我们将讨论如何使用 AWS HealthScribe 和 Amazon Q Business 创建聊天机器人,以快速了解患者临床医生的对话。
RAWS ensures DASR readiness in Türkiye
因吉尔利克空军基地的数字机场监视雷达 (DASR) 在确保阿达纳和梅尔辛地区的空域安全方面发挥着至关重要的作用,为军事和民用行动提供了关键的空中交通管制能力。
Army completes fielding of the M3A1 Multi-Role Anti-Armor Anti-Personnel Weapon System (MAAWS)
新泽西州皮卡廷尼兵工厂 - 陆军刚刚完成了多用途反装甲反人员武器系统 (MAAWS) 的最后一次部署,其中包括...
2014 年,Oleg Yusupov 创立了 Phygitalism,这是一家专注于视觉内容开发的公司。为了加快此类材料的创作,Oleg 的团队开发了一种 AI 工具 Phygital+,后来发展成为一家获得主要 IT 公司资助的初创公司。 Oleg 分享了 Phygital+ 的发展历程,从成立到发展,以及未来的业务计划。[…]
Is AWS Access Analyzer a Solution for Unused Identities?
探索清理身份蔓延的实用步骤 许多安全工具都认为找到未使用的身份列表是困难的部分。然而,现实情况是,运行扫描需要 30 秒才能发现一年的工作成果。任何管理过云环境的人都知道,身份蔓延比任何事情都早 [...]
Discover AWS Lambda Basics to Run Powerful Serverless Functions
了解我如何首次设置 AWS Lambda 继续阅读 Towards Data Science »