详细内容或原文请订阅后点击阅览
MISTRAL-SMALL-24B-INSTRUCT-2501现在可以在SageMaker Jumpstart和Amazon Bedrock Marketplace
我们很高兴地宣布，Mistral-Small-24B-Instruct-2501-来自Mistral AI的240亿个参数大语言模型（LLM），可针对低延迟文本生成任务进行优化 - 可以通过Amazon Sagemaker Jumpstartand Jumpstartand Amazon Bedrock Marketplace提供客户。在这篇文章中，我们介绍如何发现，部署和使用Mistral-Small-24B-Instruct-2501。
来源:亚马逊云科技 _机器学习今天，我们很高兴地宣布，Mistral-Small-24b-24b-Instruct-2501-来自Mistral AI的24亿个参数大语言模型（LLM），可针对低延迟文本生成任务进行优化 - 可通过Amazon Sagemaker Jumpstart Jumpstart和Amazon Bedrock Marketplace提供针对客户的客户。亚马逊基岩市场是亚马逊基岩的一种新能力，开发人员可以使用它来发现，测试和使用100多个受欢迎的，新兴和专业的基础模型（FMS），以及当前亚马逊基地的行业领先模型。这些模型是亚马逊基岩已经可用的行业领先模型的补充。 您还可以将此模型与SageMaker Jumpstart一起使用，SageMaker JumpStart是机器学习（ML）中心，可访问可以单击以进行运行推理的算法和模型。在这篇文章中，我们介绍如何发现，部署和使用Mistral-Small-24B-Instruct-2501。
MISTRAL AI Amazon Sagemaker Jumpstart 亚马逊基岩市场 亚马逊基岩Mistral Small 3（2501）
Mistral Small 3（2501）优化以对话援助
Mistral Small 3（2501）在快速，准确的响应至关重要的情况下，例如虚拟助手。这包括用户期望立即反馈和接近实时互动的虚拟助手。当用作自动化或代理工作流程的一部分时，Mistral Small 3（2501）可以处理快速函数执行。根据Mistral的说法，该体系结构通常旨在以不到100毫秒的响应，使其非常适合客户服务自动化，交互式帮助，实时聊天和内容审核。
性能指标和基准
根据Mistral的说法，该模型的指令调整版本在大规模的多任务语言理解（MMLU）上具有超过81％的精度，每秒延迟150个令牌，这使其成为当前最有效的模型。