AI Agent 技术专家
概览
10 年大型平台与 AI 工程经验,历经阿里、商汤,现负责 AI Agent 平台架构、产品化与生产交付,并推动团队 AI 工程效能建设。
- 服务规模
- 2k+ 租户 / 230k+ 用户
- 峰值请求
- 60k / day
- 团队范围
- 20 人产研 / 4 人 AI Agent 小组
- 工程效能
- 40 仓库 / 约 10×
经历
负责跨行业 WhatsApp AI Agent 客服 SaaS 平台从产品架构演进到生产运营,覆盖 2k+ 租户、230k+ 用户、峰值 60k 请求/天;统筹业务 AI Agent、RAG/Memory、工具与 Skill、质量运营、成本治理和团队交付。
面向客服问答、业务查询、流程办理和人工转接,主导平台从规则编排演进为 LLM 驱动业务 AI Agent,将意图路由、SOP、知识、工具调用与结果回传沉淀为租户可配置能力;支撑客户问题自动解决率达到 70%+,平均 7k+ tokens 对话负载下端到端约 7s,token 消耗下降 60%。
建设面向多租户业务 AI Agent 的统一知识与记忆层,将可靠知识、会话事实、用户偏好和任务状态按需注入模型上下文。
- RAG 建设
- 统一文档、QA、网站、附件、商品等知识的接入、切分、embedding、召回与重排;在基础检索之上建设 Agentic RAG,由模型按任务规划检索、改写查询、选择知识源并迭代补充证据,提升复杂问题的信息完整性。
- Memory 建设
- 建设会话级与用户级 Memory,统一事实提取、置信筛选、写入更新、召回注入和租户隔离,将历史结论、用户偏好与任务状态带入连续交互。
主导模型驱动 AI Agent 1.0 在 SaaS 业务中从 0 到 1 落地,推动 Dify 工作流升级为自主可控的多租户 AI Agent 平台,覆盖营销咨询、电商导购、线索识别、信息收集、资格判断、业务查询与人工转接,沉淀面向多行业复制交付的产品能力。
- 配置驱动与可控推理
- 建设配置驱动的 Agent 工厂,支持租户与 Agent 维度个性化配置 Instructions、Actions、知识库、Skill、MCP、语言风格与人工转接;以 Guideline、Journey 和 ARQs 管理业务规则、多轮流程及关键决策,兼顾灵活交付与行为可控。
- 工程约束与运行保障
- 以 Agent Harness 统一工程规范、工具边界、异常恢复与发布校验,配套可观测后台呈现会话链路、工具调用、响应质量、耗时与成本,保障复杂任务稳定执行并降低业务系统误调用风险。
- 质量运营闭环
- 建立上线前评测、线上回放、问题归因与成本分析闭环,支持按租户、场景和版本对比任务成功率、工具准确性、响应耗时与 token 成本,将过程数据转化为持续优化依据,支撑平台自动解决率提升至 70%+。
主导企业内部 AI 研发交付 Harness 与 CLI 平台建设,以共享上下文贯通开发、测试、发布、部署、验证与运维,覆盖 40 个仓库;将跨角色长链路收敛为开发主导的 AI 闭环,减少协作等待、环境确认和重复排查。
- 研发与测试收敛
- 通过统一 CLI、可复用 Skill 和工程自检,将需求理解、代码实现、单元/集成测试、case 复现与验收前检查纳入同一上下文;开发承担并自动化绝大多数测试执行,测试角色聚焦高风险场景与质量门禁。
- 全 AI 交付闭环
- 串联构建、发布、部署、环境检查、回归验证、生产观测与故障诊断,以 AI 驱动可复用命令与 Skill 自动执行并回写结果,实现交付链路端到端闭环。
- 协作效能
- 将仓库规范、服务依赖、环境配置和 Spec/EPIC 通过 Skill、MCP 与 CLI 供产研共享,减少跨角色交接、口头同步与等待;标准化需求交付和生产问题闭环效率达到传统协作方式约 10 倍。
建设多语言未知问题聚类与知识 Gap 学习平台,将分散的未解决问题转化为可运营主题和候选知识,形成从问题发现、主题归纳、租户采纳到知识回写的持续学习闭环。
- 算法体系
- 统一多语言清洗、embedding、UMAP/HDBSCAN、BERTopic/c-TF-IDF 与 LLM 聚类,兼容 SentenceTransformer 和 OpenAI 标准接口,支持主题归纳与可替换聚类策略。
- 工程平台
- 基于 Python、FastAPI、Pydantic 和 MongoDB 建设异步任务平台,以并发控制、动态配置、Webhook 重试、实验追踪和质量指标保障计算任务稳定运行。
- 知识自进化与成效
- 从 HDBSCAN 演进至 LLM 聚类,自主识别知识 Gap,并从高质量人工会话学习候选答案供租户采纳;约 50% 聚类结果进入生产优化,高频主题覆盖约 70%,推动自动解决率提升约 30%。
围绕 AI 数据与模型服务产品开展独立研发和项目交付,负责产品定义、系统架构、全栈实现、容器化部署与生产迭代。
从 0 到 1 设计面向企业咨询与复杂任务的可控会话 Agent,将业务规则、流程状态、工具调用与响应生成拆分为可治理的执行层,解决长对话中指令衰减、规则冲突、工具误调用和线上问题难复盘等问题。
- 规则与流程模型
- 以 condition-action Guideline 表达局部业务规则,运行时按上下文匹配相关约束;以 Journey 承载可分支、回退的多轮流程,在自由对话与确定性 SOP 之间保持平衡。
- 注意力引导推理
- 引入 ARQs(Attentive Reasoning Queries)领域化推理蓝图,在意图、规则适用性、工具选择、参数来源与响应合规等关键节点重申约束,提升复杂指令下的决策一致性。
- 工程化执行框架
- 建设配置驱动的 Agent 工厂、会话运行时、RAG/工具接入、异步执行、评测与可观测链路,将规则、工具和模型版本纳入发布治理与问题回放。
从 0 到 1 打通人工标注、训练数据、模型产物、自动标注与质量校验闭环;以 React Canvas、Django、PostgreSQL 和 Redis 承载任务与数据链路,通过 Nuclio、Traefik 封装可插拔 Serverless 推理服务,完成音视频、图像任务的企业生产环境交付。
负责 AI 绘画、模型训练与平台化产品的服务端工程和微服务架构,参与生成式 AI SaaS 从 0 到 1 建设。
围绕自研作画模型、LoRA 训练和开源模型接入,负责工程侧推理服务对接与服务化架构,建设模型参数适配、Prompt 处理、异步任务队列、模型文件存储、结果后处理、链路日志和监控体系;制定微服务 RPC、负载均衡与吞吐优化方案,支撑 Stable Diffusion / PyTorch 模型稳定进入 SaaS 生产环境。
先后负责本地生活商业推广与淘宝新零售技术团队的高流量跨端工程,覆盖广告投放与归因、直播互动、微前端、SSR 和性能优化。
主导直播间 Web 互动层从 Weex 单组件模式升级为 H5 微前端编排,统一布局、路由、事件总线和通信协议,并通过 SSR 同构渲染与分级资源策略将 FCP 稳定在 1.5s 以内,支撑高流量、弱网环境下的多业务组件交付。
负责金融报表、Java Web 服务和前端迁移,完成 AngularJS 到 Vue 的客户端迁移和 Web UI 组件库建设。
基于 Spring Boot、MyBatis 建设金融报表数据汇总与业务管理服务,完成 AngularJS 到 Vue 的渐进式迁移并沉淀共享 Web UI 组件,形成跨端平台架构与全栈交付的工程基础。
能力
Agent Harness / Loop Engineering / Agentic RAG & Memory / Multi-agent Orchestration / Tool-use & MCP / Skills / Evaluation & Observability / Context Engineering / Model Serving, Routing & LLMOps
Embeddings / Reranking / UMAP / HDBSCAN / BERTopic & c-TF-IDF / LLM Clustering / Knowledge-gap Learning
Python / FastAPI / TypeScript / Rust / Java / PostgreSQL / Redis / Milvus / Docker / Kubernetes / Microservices / CI/CD / Alibaba Cloud / Google Cloud