详细内容或原文请订阅后点击阅览

用对数概率支持亚马逊基岩自定义型号导入的模型洞察力

2025年9月12日 17:34 33 Comments
X Twitter Instagram Mail

在这篇文章中，我们探讨了日志概率如何与亚马逊基岩中的导入模型一起使用。您将了解什么是日志概率，如何在API调用中启用它们以及如何解释返回的数据。我们还重点介绍了实用的应用程序，从检测潜在的幻觉到优化抹布系统和评估微调模型 - 这些洞察力如何可以改善您的AI应用程序，从而帮助您使用自定义模型来帮助您构建更多可信赖的解决方案。

来源:亚马逊云科技 _机器学习
您可以使用Amazon Bedrock自定义型号导入来无缝整合您的自定义型号，例如Llama，Mistral和Qwen，您可以在其他地方进行微调，以进入Amazon Bedrock。体验完全是无服务器的，可以最大程度地减少基础架构管理，同时为您的导入模型提供与本机Amazon Bedrock型号相同的统一API访问。您的自定义模型受益于自动缩放，企业级安全性以及与亚马逊床架功能（例如亚马逊床架护栏和亚马逊床架知识基础）等本地集成。理解一个模型对预测的自信是如何对可靠的AI应用进行的，尤其是在构建可靠的型号时，可以访问型号的特定型号，以访问型号的特定型号。在令牌级别的预测。这种增强功能提供了对模型行为的更大可见性，并为模型评估，置信度评分和高级过滤技术提供了新的功能。在这篇文章中，我们探讨了日志概率如何与亚马逊基德岩中的导入模型一起使用。您将了解什么是日志概率，如何在API调用中启用它们以及如何解释返回的数据。 We also highlight practical applications—from detecting potential hallucinations to optimizing RAG systems and evaluating fine-tuned models—that demonstrate how these insights can improve your AI applications, helping you build more trustworthy solutions with your custom models.Understanding log probabilitiesIn language models, a log probability represents the logarithm of the probability that the model assigns to a token in a sequence.这些值表明该模型对其生成或过程的每个令牌有多信心。对数概率表示为负数，其值接近零表示置信度更高。例如，对数概率为-0。
解释 models 相同的 可靠的 床架 提供 Amazon 进行 功能 服务器 模型 亚马逊 例如 导入 Bedrock 置信度 可见性 安全性 型号 概率 返回的 接近零 自定义