跳到主要内容

使用 Langfuse 做可观测性

本教程介绍如何将 goose 与 Langfuse 集成,从而监控 goose 请求,并了解智能体的表现。

什么是 Langfuse​

Langfuse 是一个开源的大语言模型工程平台,让团队可以协作监控、评估和调试他们的大语言模型应用。

设置 Langfuse​

注册 Langfuse Cloud,或使用 Docker Compose 自行托管 Langfuse,以获取 Langfuse API 密钥。

配置 goose 连接 Langfuse​

设置环境变量,让 goose(用 Rust 编写)能够连接到 Langfuse 服务器。

export LANGFUSE_INIT_PROJECT_PUBLIC_KEY=pk-lf-...
export LANGFUSE_INIT_PROJECT_SECRET_KEY=sk-lf-...
export LANGFUSE_URL=https://cloud.langfuse.com # EU data region 🇪🇺

# https://us.cloud.langfuse.com if you're using the US region 🇺🇸
# https://localhost:3000 if you're self-hosting

默认情况下,追踪不包含模型消息以及工具参数和结果。要包含这些内容,请显式启用内容捕获:

export OTEL_INSTRUMENTATION_GENAI_CAPTURE_MESSAGE_CONTENT=true

只有在遥测存储适合存放可能敏感的内容时,才启用内容捕获。

在集成 Langfuse 的情况下运行 goose​

现在可以运行 goose,并通过 Langfuse 监控你的 AI 请求和操作。

goose 正在运行且环境变量已设置时,Langfuse 会开始捕获 goose 活动的追踪。

Langfuse 中的示例追踪(公开)

Langfuse 中的 goose 追踪