详细内容或原文请订阅后点击阅览
Azure AI 已学会检测生成性 AI 幻觉
新的 Azure AI 内容安全平台功能不仅有助于识别聊天机器人响应中未经证实的声明，还可以纠正它们。
来源:OSP网站大数据新闻Azure AI内容安全平台具有一个称为“校正”的新功能，该功能不仅允许识别大语言模型（或任何其他文本中）中包含的不合理信息，还可以纠正它。
2024年3月，微软在Azure AI中实施了检查任何给定文本中语句的“有效性”的可能性。为此，GPT-4模型不仅可以用其知识来验证文本，还可以通过用户通过相关接口提供的其他信息来源来验证文本。该模型发现陈述没有从消息来源备份，并且可以解释为什么她认为它们不合理，但仍然不知道如何纠正它们。使用“校正”功能，该平台会自动向模型提出新请求。如果来源有必要的信息，则该模型将基于源纠正文本，用户将收到已更正的答案。
“幻觉”的问题仍然是生成人工智能领域中最重要的问题之一。没有一家公司被淘汰以消除它们。