Langfuse 现已提速 →
文档可观测性概览

可观测性与应用程序追踪

由于 AI 本身具有非确定性,在没有任何可观测性工具的情况下调试应用程序更像是凭运气。实施良好的可观测性工具能让你理解应用程序内部正在发生什么以及原因。

其核心是应用程序追踪——即对每个请求进行结构化日志记录,捕获发送的确切提示词、模型的响应、Token 使用量、延迟以及中间的任何工具或检索步骤。

Langfuse 会在你构建应用程序时为你捕获所有这些信息。以下是 Langfuse UI 中追踪的一个示例

Example of a trace showing nested observations: an initial model call, multiple tool executions, and a final summarization step. Each observation includes timing, inputs, outputs, and cost information.

观看此演示了解 Langfuse 可观测性以及如何将其集成到你的应用程序中。

开始使用

设置你的第一个追踪开始。

花点时间理解 Langfuse 中追踪的核心概念:追踪 (traces)、会话 (sessions) 和观测 (observations)

一旦运行起来,你就可以开始为追踪添加更多功能。我们建议从以下内容开始

已经知道你需要什么了?查看功能部分,获取特定主题的指南。

常见问题解答

可观测性和追踪有什么区别?

可观测性是从系统的输出理解其内部状态的更广泛能力。它涵盖了追踪、指标和日志记录。追踪是一种特定的可观测性技术,它记录请求在系统中的流向,保留操作之间的因果关系。在 LLM 应用程序的背景下,追踪是最重要的可观测性工具,因为它捕获了每个请求的完整上下文——提示词、响应、工具调用及其关系。

什么是应用程序追踪?

应用程序追踪记录了请求在系统中流转的完整生命周期。每个追踪都捕获了每一次操作——LLM 调用、检索步骤、工具执行和自定义逻辑——以及时间、输入、输出和元数据。这使你能够完全了解每个请求期间发生了什么,从而实现调试、性能优化和质量监控。

Langfuse 与其他追踪解决方案相比如何?

Langfuse 是专为 LLM 应用程序构建的,这意味着它原生理解 LLM 特有的概念,如 Token 使用量、模型参数、提示词/补全对和评估分数。与通用 APM 工具不同,Langfuse 提供了 AI 工程特有的功能:LLM-as-a-Judge 评估提示词管理实验和数据集以及自定义仪表板。它还是开源的,并且可以自托管。

Langfuse 会增加我的应用程序延迟吗?

不会。Langfuse SDK 在后台异步发送追踪数据。追踪事件在本地排队并分批刷新,因此不会影响你应用程序的响应时间。详情请参见排队与批处理


此页面有帮助吗?