Guardrails AI
一句话:LLM 输出安全护栏开源项目 —— 用声明式规则(JSON schema / 关键字 / 分类器 / 结构化验证)拦截 LLM 有害/幻觉/越界输出。企业级 Agent 架构里的**“最后一公里”安全层**。
核心特征
- 声明式规则:validators 组成 pipeline,output 不满足即 re-ask / reject / fallback
- 企业架构位置:网关(Kong / Higress)→ Agent → Guardrails → 用户
- 典型能力:PII 脱敏 · 幻觉检测 · Toxicity · 结构化 JSON 强制
- 合规配套:金融 / 医疗行业 Agent 落地必备