识别平台部署架构

识别平台部署架构 由 Archify 生成的架构图。 调用方 · 业务系统 · 智能体 · 架构组件 调用方 业务系统 · 智能体 大模型平台 · VLM 推理 · OpenAI 兼容 · 架构组件 大模型平台 VLM 推理 · OpenAI 兼容 统一接入 · Ingress · TLS · 流控 · 识别平台命名空间 统一接入 Ingress · TLS · 流控 平台服务 · API · MCP · 编排(多副本) · 识别平台命名空间 平台服务 API · MCP · 编排(多副本) GPU 节点池 · PaddleOCR-VL 产线 · GPU 节点池 GPU 节点池 PaddleOCR-VL 产线 CPU 节点池 · CV 任务 · 轻量 OCR · CPU 节点池 CPU 节点池 CV 任务 · 轻量 OCR 存储与缓存 · MinIO · PostgreSQL · Redis · 识别平台命名空间 存储与缓存 MinIO · PostgreSQL · Redis CI/CD · Harbor · Jenkins · ArgoCD · 架构组件 CI/CD Harbor · Jenkins · ArgoCD HTTPS 路由 VLM 调用 版面识别 CV 任务 对象 · 元数据读写 应用 · 模型发布 识别平台命名空间 GPU 节点池 CPU 节点池 图例 后端 数据库 云服务 安全 外部系统

算力分层调度

  • • GPU 节点池承载 PaddleOCR-VL 等重推理,CPU 节点池跑 CV 与轻量 OCR,按负载独立扩缩
  • • VLM 走大模型平台统一算力,平台不重复建设推理资源

无状态多副本

  • • 平台服务无状态多副本 + HPA,状态全部下沉 MinIO / PG / Redis
  • • 引擎以独立 Deployment 部署,模型版本即镜像版本,可灰度可回滚

发布与回滚

  • • Jenkins 构建镜像入 Harbor,ArgoCD 声明式同步,发布与回滚均为 Git 变更
  • • 新引擎版本先在评测环境跑 golden 集回归,通过后灰度接入