通过AI决策电路获得LLM确定性
不确定性在技术上并不是什么新鲜事物 - 所有现代系统都通过数学证明的控制结构克服了不确定的投入和输出。获得AI决策电路的LLM确定性首先出现在数据科学方面。
来源:走向数据科学AI特工席卷了世界。代理商可以与周围的世界互动，撰写文章（虽然不是这篇文章），代表您采取行动，并且通常使自动执行任何任务的困难部分变得容易且平易近人。
代理人针对流程中最困难的部分，并迅速通过问题进行流失。有时太快了 - 如果您的代理过程需要循环中的人来决定结果，那么人类审查阶段可能会成为过程的瓶颈。
示例代理程序处理客户电话并将其分类。即使是99.95％的精确代理商，也会在收听10,000个电话时犯5个错误。尽管知道这一点，但代理商仍无法告诉您10,000个电话中的5个被错误地分类。
哪个llm-as-a-a-gudge是一种将每个输入提供给另一个LLM过程的技术，以使其判断输入输出的输出是否正确。但是，由于这是另一个LLM过程，因此它也可能不准确。这两个概率过程创建了一个带有真实促阳性，假阳性，假阴性和真实阴性的混乱矩阵。
换句话说，通过LLM流程正确分类的输入可能会被其法官LLM判断为不正确，反之亦然。
由于这个“已知未知”，对于敏感的工作量，人类仍然必须审查并了解所有10,000个电话。我们再次回到同一瓶颈问题。
已知未知我们如何在代理过程中建立更多的统计确定性？在这篇文章中，我构建了一个系统，使我们可以在代理流程中更确定，将其推广到任意数量的代理，并开发成本函数，以帮助指导系统中的未来投资。我在此文章中使用的代码可在我的存储库AI-Decision-Circuits中使用。
ai-decision-circuits