返回列表

2021-09 - 2024-05

AIGC SaaS 与模型服务平台

负责生成式 AI SaaS 的 Web 工程、微服务拆分、模型服务调用链和平台化交付,参与产品从 0 到 1 建设。
  • AIGC SaaS
  • Model Serving
  • Stable Diffusion
  • Microservices
  • DevOps

项目概览

商汤 AIGC 业务期间,参与生成式 AI SaaS 产品从 0 到 1 建设,覆盖 Web 工程、微服务拆分、模型服务调用链、任务队列、日志监控和平台化交付。

核心价值在于 AI 能力产品化:将模型推理、任务状态、文件存储、后处理和用户体验连接成可用、可扩展、可运营的产品系统。

平台范围

商汤期间参与 miaohua 等 AIGC 产品建设,核心范围包括:

  1. AI 绘画平台:支持自研作画模型、LoRA 训练能力和第三方开源模型接入。
  2. Web / H5 / 小程序:建设跨平台产品体验和组件体系。
  3. 模型服务:围绕 Stable Diffusion / PyTorch 推理链路处理参数格式化、prompt 优化、任务队列、模型文件存储和结果后处理。
  4. 微服务拆分:沉淀身份认证、模型推理、模型文件存储、任务推送等服务边界。
  5. 工程治理:容器化部署、日志上报、监控平台、服务通信、负载均衡和吞吐优化。

工程取舍

生成式 AI SaaS 的关键挑战在于把模型能力纳入稳定业务系统:

  • 模型调用链需要清晰记录参数、输入、输出、耗时和失败原因,否则无法定位质量和稳定性问题。
  • 任务队列、模型服务和文件存储需要拆开,避免长耗时推理阻塞 Web 主链路。
  • prompt、模型参数、后处理和水印/二维码/OSS 存储等环节需要形成可复用流水线。
  • Web 体验要兼顾低门槛使用、响应式适配和复杂任务状态反馈。

平台价值

沉淀模型服务工程化、长耗时任务编排、跨端产品体验和平台运维能力,并延伸至 Agent 平台的模型调用治理、任务链路观测、成本控制和生产发布流程。