在本地检测您的代码#
AutoGen 支持使用 OpenTelemetry 检测您的代码。这允许您从代码中收集追踪和日志,并将它们发送到您选择的后端。
调试时,您可以使用本地后端,例如 Aspire 或 Jaeger。在本指南中,我们将以 Aspire 为例。
设置 Aspire#
按照此处的说明以独立模式设置 Aspire。这需要您的机器上安装 Docker。
检测您的代码#
设置好仪表板后,现在就是向其发送追踪和日志的问题了。您可以按照遥测指南中的步骤设置 opentelemetry sdk 和导出器。
在 Aspire Dashboard 运行并检测您的代码后,您应该会在代码运行时在仪表板中看到追踪和日志。
使用 Open AI 观察 LLM 调用#
如果您正在使用 Open AI 包,您可以通过为该库设置 opentelemetry 来观察 LLM 调用。在本例中,我们使用 opentelemetry-instrumentation-openai。
安装包
pip install opentelemetry-instrumentation-openai
启用检测
from opentelemetry.instrumentation.openai import OpenAIInstrumentor
OpenAIInstrumentor().instrument()
现在运行您的代码会将追踪(包括 LLM 调用)发送到您的遥测后端(在本例中为 Aspire)。
