返回列表

2026-06-27

企业级 Agent 平台能力地图

面向生产级 Agent 平台的 runtime、工具治理、评测回放、团队工程和业务价值框架。

平台边界

企业级 Agent 平台的核心,是把大模型能力接入真实业务流程,并通过 runtime、工具体系、权限边界、评测回放和可观测机制,让模型行为可以被控制、审计、复盘和持续优化。

对于面向客服、运营、销售、财务等场景的 SaaS 平台,Agent 能力需要同时满足业务可用性和工程可治理性:既能理解任务、调用工具和完成流程,也能在高风险动作、异常分支和人工接管上保持明确边界。

平台概况

YC 阶段负责跨行业 AI Agent 客服 SaaS 平台,服务 2k+ 租户、23w+ 用户,过去一个月参考峰值 6w 请求/天,平均响应约 7s。平台覆盖多语言、多渠道、RAG、Memory、Skill、MCP/API 扩展、复杂任务编排、异步执行、inspection trace 和 usage/cost 治理。

平台从代码引导 Agent 1.0 演进为模型驱动 Agent 2.0:1.0 通过 Guideline/Journey/ARQ 约束模型决策,强调可控与可复盘;2.0 让模型主导 tool calling 和多步决策,Runtime 负责行动空间、上下文、工具边界、并发控制、安全约束和成本账本。

架构能力

  1. Agent Runtime:按 tenant、chatbot、session 动态装配语言、语气、handover、Skill、RAG、工具、业务元数据和最大迭代次数。
  2. Skill 与工具治理:将 ActionBook/SOP 收敛为 Skill,按 turn 动态加载,结合 tool gating 控制工具暴露范围,降低上下文污染和误调用风险。
  3. RAG + Memory:支持文档、QA、网站、附件、商品和 session-memory 等知识来源,并通过 content gap 将未解决会话转化为知识迭代入口。
  4. 异步执行:通过 correlation_id、后台执行、latest-wins 取消、callback 终态回传和 worker/claim/retry 机制降低主链路阻塞。
  5. 评测回放:将线上问题样本、trace、工具调用和人工兜底结果沉淀为 regression eval,服务 prompt、工具 schema、模型版本和权限策略变更。

治理能力

生产级 Agent 平台需要把能力边界写进系统,而非只依赖提示词。关键治理层包括多租户隔离、PII 脱敏、工具权限、side-effect 审批、prompt/tool injection 防护、审计日志、人工接管、高风险确认、幂等、重试和回滚。

可观测体系需要贯穿一次响应的完整链路:correlation_id、events、inspection、token usage、ARQ artifacts、callback payload、压测指标和成本统计共同构成可追踪、可评测、可复盘的执行账本。

团队工程

在 20 人产研团队中负责 AI Agent 业务方向,带 3 人小组(2 开发 + 1 测试)推进平台能力、质量治理和交付流程。团队侧推动 AI Harness 覆盖 40 个仓库,以架构规则、Spec/EPIC、Supervisor gate、自检脚本和 PR 模板约束 AI 辅助开发。

通过清晰规格、可审查产物、可执行检查和可复盘过程,让 AI 参与的软件交付保持稳定节奏。

平台职责

完整的平台职责覆盖架构演进、Runtime 与工具体系、生产治理、质量运营、企业集成和团队交付,并以任务完成质量、稳定性、时延、成本与业务结果作为统一衡量标准。