在本地检测代码#

AutoGen 支持使用 OpenTelemetry 检测您的代码。 这允许您从代码中收集跟踪和日志,并将它们发送到您选择的后端。

在调试时,您可以使用本地后端,例如 AspireJaeger。 在本指南中,我们将使用 Aspire 作为示例。

设置 Aspire#

按照此处的说明以单机模式设置 Aspire。 这需要在您的机器上安装 Docker。

检测您的代码#

设置好仪表板后,现在需要将跟踪和日志发送到它。 您可以按照 遥测指南 中的步骤来设置 opentelemetry sdk 和导出器。

使用 Aspire 仪表板运行检测代码后,您应该会在仪表板中看到随着代码运行而出现的跟踪和日志。

使用 Open AI 观察 LLM 调用#

如果您正在使用 Open AI 包,您可以通过为该库设置 opentelemetry 来观察 LLM 调用。 在此示例中,我们使用 opentelemetry-instrumentation-openai

安装软件包

pip install opentelemetry-instrumentation-openai

启用检测

from opentelemetry.instrumentation.openai import OpenAIInstrumentor

OpenAIInstrumentor().instrument()

现在运行您的代码将发送包含 LLM 调用的跟踪到您的遥测后端(在我们的例子中是 Aspire)。

Open AI Telemetry logs