-由 Northern Gritstone 牵头,投资将使公司能够加速平台和 SDK 的开发和扩展,以满足不断增长的客户和开发人员需求 -BOW 平台和 SDK 允许任何软件开发人员使用他们选择的操作系统和编程语言对机器人进行编程
Platform roundup: January | Viam
了解本月的亮点:使用 LoRaWAN 构建,探索 Viam 的 Micro-RDK 以实现更智能的物联网,在 NVIDIA Jetson Orin Nano 上运行 ML,并享受远程操作小部件和 Go SDK 更新等新工具。
Clarifai 11.0: Streamline AI Insights with the Unified Clarifai Control Center
控制中心、组织设置、Python SDK 增强功能和平台改进
PEFT fine tuning of Llama 3 on SageMaker HyperPod with AWS Trainium
在这篇博文中,我们展示了如何使用 AWS Trainium 上的 PEFT 和 SageMaker HyperPod 对 Meta Llama 3 模型进行高效的监督微调。我们使用 HuggingFace 的 Optimum-Neuron 软件开发工具包 (SDK) 将 LoRA 应用于微调作业,并使用 SageMaker HyperPod 作为主要计算集群在 Trainium 上执行分布式训练。使用 LoRA 监督微调 Meta Llama 3 模型,您可以进一步将微调模型的成本降低高达 50%,并将训练时间缩短 70%。
Simplify multimodal generative AI with Amazon Bedrock Data Automation
Amazon Bedrock Data Automation 公开预览版为所有技能组合的开发人员提供了统一的体验,使他们能够轻松地自动从文档、图像、音频和视频中提取、转换和生成相关见解,以构建生成式 AI 驱动的应用程序。在本文中,我们将演示如何在 AWS 管理控制台中使用 Amazon Bedrock Data Automation 和 AWS SDK for Python (Boto3) 进行媒体分析和智能文档处理 (IDP) 工作流。
在本文中,我们提供了在 LLM 部署中实施 Fast Model Loader 的详细实践指南。我们探讨了两种方法:使用 SageMaker Python SDK 进行编程实现,以及使用 Amazon SageMaker Studio UI 获得更直观、更具交互性的体验。无论您是喜欢使用代码的开发人员还是喜欢图形界面的人,您都将学习如何利用这一强大功能来加速您的 LLM 部署。
我们很高兴地宣布,Meta Llama 3.1 8B 和 70B 推理支持已在 Amazon SageMaker JumpStart 中的 AWS Trainium 和 AWS Inferentia 实例上推出。 Trainium 和 Inferentia 由 AWS Neuron 软件开发工具包 (SDK) 提供支持,可提供高性能并将 Meta Llama 3.1 的部署成本降低高达 50%。在这篇文章中,我们演示了如何在 SageMaker JumpStart 中的 Trainium 和 Inferentia 实例上部署 Meta Llama 3.1。
On the Programmability of AWS Trainium and Inferentia
使用自定义运算符加速 AI/ML 模型训练 — 第 4 部分照片由 Agata Bres 在 Unsplash 上拍摄在这篇文章中,我们继续探索通过自定义运算符开发来优化机器学习 (ML) 工作负载运行时的机会。这一次,我们重点介绍 AWS Neuron SDK 提供的工具,用于在 AWS Trainium 和 AWS Inferentia 上开发和运行新内核。随着推动 AI 革命的低级模型组件(例如注意层)的快速发展,用于训练和运行 ML 模型的加速器的可编程性至关重要。专用 AI 芯片必须为广泛使用且影响深远的通用 GPU (GPGPU) 开发框架(例如 CUDA 和 Triton)提供有
LG SHOWCASES SELF-DRIVING AI HOME HUB AT ROSCON 2024
公司推出开放式 SDK,使开发人员能够定制和增强智能家电体验
AI Model Optimization on AWS Inferentia and Trainium
使用 AWS Neuron SDK 加速 ML 的技巧照片由 julien Tromeur 在 Unsplash 上拍摄我们正处于人工智能的黄金时代,尖端模型颠覆了行业并准备改变我们所知的生活。推动这些进步的是越来越强大的人工智能加速器,例如 NVIDIA H100 GPU、Google Cloud TPU、AWS 的 Trainium 和 Inferentia 芯片等。随着选项数量的增加,选择最适合我们的机器学习 (ML) 工作负载的平台的挑战也随之而来——考虑到与 AI 计算相关的高成本,这是一个至关重要的决定。重要的是,对每个选项进行全面评估需要确保我们最大限度地利用它以充分利用其功能。
在本文中,我们将深入研究构建和部署示例应用程序的过程,该应用程序能够使用 Streamlit UI、由 Amazon Bedrock SDK 提供支持的 AWS Lambda 和由开源 Generative AI CDK Constructs 驱动的 AWS AppSync 为多个图像生成多语言描述。
How Viam provides a mobile pathway for ROS robots | Viam
借助 Viam Flutter SDK,您可以轻松构建移动或跨平台应用程序,供客户与您的机器人交互 - 无论您的机器人是基于 ROS 的、非基于 ROS 的还是两者兼而有之。
February '23 product roundup | Viam
从 SDK 动态更新到框架系统可视化工具,以下是我们根据社区建议进行的一些闪亮的新更新。
Clarifai 10.3: Template Wizardry: Build Apps with a Click
探索 App 模板、Node SDK、新模型(Mistral Large、Deepgram Aura-TTS、Genstruct-7B 等)等的最新更新。
Quadruped Control Full Stack Development Kit
只是与 Robots for Roboticists 社区分享此公告。我还没有机会使用它。我知道我通常只分享我使用过的东西,但我觉得这个值得分享。如果您尝试一下,请告诉我们它是如何工作的。宣布 Quad-SDK!全栈四足动物控制 […] 四足动物控制全栈开发套件一文首先出现在 Robots For Roboticists 上。
#227 – Sean Kelly: Existentialism, Nihilism, and the Search for Meaning
肖恩·凯利 (Sean Kelly) 是哈佛大学的一位哲学家,专门研究存在主义和心灵哲学。请查看我们的赞助商来支持此播客:- Coinbase:https://coinbase.com/lex 可获得价值 5 美元的免费比特币- InsideTracker:https://insidetracker.com/lex 并使用代码 Lex25 可获得 25% 的折扣- NetSuite:http://netsuite.com/lex 可获得免费产品游览- Ladder:https://ladderlife.com/lex- Sunbasket:https://sunbasket.com/lex 并
[Google Cloud] Setup Instructions for FastAI 2018 Deep Learning Course - Open source library
在我之前的博客文章之后,我在线观看了 Jeremy Howard 的 FastAI 深度学习讲座。这是 2018 年深度学习版课程的链接 - 它完全免费,并且通过“实践”深入概念细节,提供了对实用深度学习的深刻见解。该课程的 FastAI 库是在 Pytorch 之上构建的,并提供了一个很好的顶级 API,可在几分钟内开始创建您的深度学习模型!设置库很困难,因为它依赖于不同的软件包版本,并且由于更新构建它的软件包而导致损坏。我将列出我为启动和运行它而遵循的设置。1. 按照 Medium.com 上的指南在 Google Cloud 上设置 Google 计算单元2. 我遇到的问题是 curl
Система распознавания документов Smart IDReader внесена в Реестр отечественного ПО
Smart IDReader 文档识别程序由 Smart Engines 开发,已包含在俄罗斯电子计算机和数据库程序统一注册中。根据俄罗斯联邦电信和大众传播部的命令,Smart IDReader 解决方案包含在软件类中,其中包括子程序库 (SDK) 和语言软件。