openllmetry

openllmetry 是小型 Python library，便于观察 AI agent 在做什么以及表现如何。它包装对大语言 model API、vector store 与其他 tool 的调用，将 log、trace 与简单 metric 发送到任何支持 OpenTelemetry standard 的 backend，如 Jaeger、Zipkin 或 Grafana。在 start-up 添加一两行代码，library 在 agent 每次向 model 请求 answer 时捕获 prompt text、model name、latency、token count 与 cost。数据帮助发现 slow step、高 spend 或 bad answer，并可 replay 完整 trace 以 debug agent chain。因遵循 OpenTelemetry，可将这些 AI trace 与 normal service trace 混合，在一处看到完整 flow。