Knock — AI 可观测性:Prompt、Tool Call、Trace、Token 全链路追踪

TL;DR

28 KB 长文——AI 可观测性的四大维度方法论:

维度关键指标工具
Prompt模板版本、变量、token 数LangSmith / Langfuse
Tool Call每次工具的入参 / 出参 / 耗时OpenTelemetry + 自定 attr
Trace多 Agent 协作链路OpenTelemetry
Tokeninput/output / 成本 / 缓存命中Helicone / Portkey

关键论点

  • 用户”有时候好用有时候不好用” → 必须从这 4 个维度同时追踪才能复现
  • 传统 OTel 不够用 —— 必须扩展 4 类 AI 专属 attribute
  • 采样策略:高价值 trace(高 token / 失败 / 慢)100% 采,常规请求 1% 采

涉及的实体 / 概念

原文链接