详细内容或原文请订阅后点击阅览
AI21 Labs Jamba-Instruct 模型现已在 Amazon Bedrock 中可用
我们很高兴地宣布 Jamba-Instruct 大型语言模型 (LLM) 已在 Amazon Bedrock 中推出。Jamba-Instruct 由 AI21 Labs 构建，最值得注意的是支持 256,000 个令牌上下文窗口，这使其特别适用于处理大型文档和复杂的检索增强生成 (RAG) 应用程序。什么是 Jamba-Instruct Jamba-Instruct 是指令调整版本的 […]
来源:亚马逊云科技 _机器学习我们很高兴地宣布，Jamba-Instruct 大型语言模型 (LLM) 现已在 Amazon Bedrock 中推出。Jamba-Instruct 由 AI21 Labs 构建，最值得注意的是，它支持 256,000 个令牌上下文窗口，这使其特别适用于处理大型文档和复杂的检索增强生成 (RAG) 应用程序。
Amazon Bedrock什么是 Jamba-Instruct
Jamba-Instruct 是 Jamba 基础模型的指令调整版本，之前由 AI21 Labs 开源，它结合了生产级模型、结构化状态空间 (SSM) 技术和 Transformer 架构。借助 SSM 方法，Jamba-Instruct 能够在其模型大小级别中实现最大的上下文窗口长度，同时还能提供传统基于 Transformer 的模型所提供的性能。这些模型的性能比 AI21 的上一代模型 Jurassic-2 系列模型有所提升。有关混合 SSM/Transformer 架构的更多信息，请参阅 Jamba：混合 Transformer-Mamba 语言模型白皮书。
开源 结构化状态空间 (SSM) Jamba：混合 Transformer-Mamba 语言模型开始使用 Jamba-Instruct
要开始使用 Amazon Bedrock 中的 Jamba-Instruct 模型，首先您需要访问该模型。
- 在 Amazon Bedrock 控制台上，选择导航窗格中的模型访问。选择修改模型访问。选择要使用的 AI21 Labs 模型并选择下一步。选择提交以请求模型访问权限。
有关更多信息，请参阅模型访问。
模型访问接下来，您可以在 Amazon Bedrock Text 或 Chat 游乐场中测试模型。
文本 聊天Jamba-Instruct 的示例用例
您还可以使用 Jamba 进行标准 LLM 操作，例如摘要和实体提取。
快速入门