企业级 Agent 平台架构负责人
概览
10 年大型平台与 AI 工程经验,历经阿里、商汤,现负责企业级 Agent 平台架构、产品化与团队交付。
- 服务规模
- 2k+ 租户 / 23w+ 用户
- 峰值请求
- 6w / day
- 团队范围
- 20 人产研 / 3 人 Agent 小组
- Harness 覆盖
- 40 个仓库
经历
负责跨行业 AI Agent 客服 SaaS 平台从架构演进到生产运营,覆盖 2k+ 租户、23w+ 用户、峰值 6w 请求/天;统筹 Runtime、工具与 Skill、RAG/Memory、质量评测、成本治理和团队交付。
面向 2k+ 租户、23w+ 用户的客服 SaaS,重构 Agentic RAG、多轮工具调用、动态 Skill 与多 Agent 统一上下文;在平均 7k+ tokens 对话负载下将端到端响应稳定在约 7s,token 消耗下降 60%,支撑客户问题自动解决率达到 70%+。
- 建立覆盖请求、执行阶段、工具调用与终态回传的可观测和评测链路,以 correlation_id、trace、token usage、回放集和发布门禁定位质量、时延与成本问题。
- 建设未知问题聚类与主题发现平台,将每周约 1w+ 至 6w+ 条问题沉淀为 content gap;约 50% 聚类结果进入知识库/RAG/Skill 迭代,高频主题处理覆盖约 70%,自动解决率提升约 30%。
- 带领 3 人 Agent 小组推进 Runtime 服务化拆分与平台交付,统一网关鉴权、服务契约、容器构建和发布规范;推动 AI 开发 Harness 覆盖 40 个仓库,形成 Spec/EPIC、验收门禁、自检脚本和 PR 模板。
围绕 AI 数据与模型服务产品开展独立研发和项目交付,负责产品定义、系统架构、全栈实现、容器化部署与生产迭代。
从 0 到 1 打通人工标注、训练数据、模型产物、自动标注与质量校验闭环;以 React Canvas、Django、PostgreSQL 和 Redis 承载任务与数据链路,通过 Nuclio、Traefik 封装可插拔 Serverless 推理服务,完成音视频、图像任务的企业生产环境交付。
负责 AI 绘画、模型训练与平台化产品的 Web 工程和微服务架构,参与生成式 AI SaaS 从 0 到 1 建设。
面向自研作画模型、LoRA 训练和第三方开源模型,主导前后端架构与服务拆分,将 Stable Diffusion / PyTorch 推理、任务队列、模型文件、结果后处理和日志监控组织为可扩展的异步生产链路,支撑 Web、H5 与小程序交付。
先后负责本地生活商业推广与淘宝新零售技术团队的高流量跨端工程,覆盖广告投放与归因、直播互动、微前端、SSR 和性能优化。
主导直播间 Web 互动层从 Weex 单组件模式升级为 H5 微前端编排,统一布局、路由、事件总线和通信协议,并通过 SSR 同构渲染与分级资源策略将 FCP 稳定在 1.5s 以内,支撑高流量、弱网环境下的多业务组件交付。
- 设计基于 shell / iframe 的微前端架构,统一多业务子应用通信、路由定义、静态资源加载和部署方式。
- 沉淀 Vue / React 脚手架、跨平台 JsBridge、广告日志上报 SDK 和通用组件库,参与下单、广告结算、订单归因到商家经营分析的关键链路建设。
负责金融报表、Java Web 服务和前端迁移,完成 AngularJS 到 Vue 的客户端迁移和 Web UI 组件库建设。
基于 Spring Boot、MyBatis 建设金融报表数据汇总与业务管理服务,完成 AngularJS 到 Vue 的渐进式迁移并沉淀共享 Web UI 组件,形成跨端平台架构与全栈交付的工程基础。
能力
Agent Runtime / Agentic RAG / Memory / Multi-agent Orchestration / Workflow Orchestration / Tool-use / Function Calling / MCP / Skills / Human-in-the-loop
Multi-tenant Isolation / Permission Model / Tool Registry / Audit Trail / Guardrails / Replay Evaluation / Golden Set / Trace Observability / Usage / Cost Governance
Python / FastAPI / TypeScript / Node.js / Rust / Java / Linux / PostgreSQL / Redis / Milvus / Docker / Kubernetes / Microservices / CI/CD / Alibaba Cloud / Google Cloud
Model APIs / Routing / Context Engineering / RAG Retrieval / Reranking / PyTorch / Stable Diffusion / Gemini / Data Feedback Loops / LLMOps
Platform Roadmap / Architecture Rules / Spec / EPIC Workflow / Release Gates / Cross-functional Delivery / AI Development Harness / Team Standards