在本地检测代码#
AutoGen 支持使用 OpenTelemetry 检测您的代码。 这允许您从代码中收集跟踪和日志,并将它们发送到您选择的后端。
在调试时,您可以使用本地后端,例如 Aspire 或 Jaeger。 在本指南中,我们将使用 Aspire 作为示例。
设置 Aspire#
按照此处的说明以单机模式设置 Aspire。 这需要在您的机器上安装 Docker。
检测您的代码#
设置好仪表板后,现在需要将跟踪和日志发送到它。 您可以按照 遥测指南 中的步骤来设置 opentelemetry sdk 和导出器。
使用 Aspire 仪表板运行检测代码后,您应该会在仪表板中看到随着代码运行而出现的跟踪和日志。
使用 Open AI 观察 LLM 调用#
如果您正在使用 Open AI 包,您可以通过为该库设置 opentelemetry 来观察 LLM 调用。 在此示例中,我们使用 opentelemetry-instrumentation-openai。
安装软件包
pip install opentelemetry-instrumentation-openai
启用检测
from opentelemetry.instrumentation.openai import OpenAIInstrumentor
OpenAIInstrumentor().instrument()
现在运行您的代码将发送包含 LLM 调用的跟踪到您的遥测后端(在我们的例子中是 Aspire)。