详细内容或原文请订阅后点击阅览
llm监视和可观察性：与langfuse的动手
了解LLM监视和可观察性的基本原理，从跟踪到评估，再到使用Langfusethe后LLM监测和可观察性设置仪表板：与Langfuse的动手最初出现在数据科学上。
来源:走向数据科学：您已经构建了一个复杂的LLM应用程序，该应用程序响应了有关特定域的用户查询。您已经花了几天的时间来设置完整的管道，从完善提示到添加上下文检索，链条，工具，最后显示输出。但是，在部署后，您意识到该应用程序的响应似乎缺少标记，例如，您对其响应不满意，或者花费大量时间来响应。无论问题是否扎根于您的提示，检索，API呼叫或其他地方，监视和可观察性都可以帮助您解决问题。在本教程中，我们将首先学习LLM监视和可观察性的基础知识。然后，我们将探索开源生态系统，最终导致我们对Langfuse的讨论。最后，我们将使用Langfuse实施基于Python的LLM应用程序的监视和可观察性。
监视和可观察性 langfuse什么是监视和可观察性？
监视和可观察性是维持任何IT系统健康的关键概念。虽然“监视”和“可观察性”术语通常被夹在一起，但它们代表略有不同的概念。
任何根据IBM的定义，监视是收集和分析系统数据以随着时间跟踪性能的过程。它依靠预定义的指标来检测异常或潜在故障。常见的示例包括跟踪系统的CPU和内存使用情况以及何时违反某些阈值的警报。
IBM的定义 监视可观察性根据外部输出提供了对系统内部状态的更深入的理解。它使您可以诊断并理解为什么发生某些事情，而不仅仅是出了问题。例如，可观察性使您可以通过系统的各个部分跟踪输入和输出，以发现发生瓶颈的地方。
可观察性