「数据不出域」四个字,让越来越多的大中型企业把大模型从公有云搬回自己的机房。但私有化部署到底要多久、要投多少、最容易在哪一步翻车?蓝图娱乐交付团队刚完成某省级文旅集团的「蓝芯」行业版交付,这篇实录把 90 天的时间表、人力配置与验收口径原样公开,供同类项目做预算参考。
第 0-30 天:需求盘点与算力规划
第一周先做「场景减法」:客户最初列了 40 多个 AI 场景,我们按调用频次、数据敏感度、失败成本三个维度打分,收敛到 6 个高价值场景——智能导览问答、多语种宣传物料生成、游客评论情感分析等。场景收敛直接决定了算力预算:最终方案部署 8 卡推理节点两台(双机热备),未使用任何训练级集群,硬件采购成本比客户最初预估低了约 40%。
这个阶段最重要的交付物是一份《推理容量测算表》:按峰值 QPS、平均上下文长度与模型版本,估算显存占用与响应延迟。它也是后续验收指标的基准线。
第 30-60 天:数据治理与模型适配
私有化的重头戏是数据。客户的语料包括历年导游词、景区公告、票务政策与投诉工单,格式横跨 Word、PDF 与内部数据库。团队先做脱敏流水线(身份证号、手机号、订单号自动识别替换),再按「事实层-口径层-话术层」三级分类清洗——事实层保证答案不编造,口径层对齐官方表述,话术层做风格微调。
模型侧采用「基础模型 + RAG 检索增强」方案而非全量微调:把 95% 的领域知识放在检索库里,模型只学表达方式。这样做的好处是知识更新不需要重新训练——文旅政策每年都变,改文档比改权重便宜得多。
第 60-90 天:集成测试与双机热备
最后 30 天里,模型要接入客户既有的三个系统:窗口票务、官方小程序与呼叫中心。接口层采用容器化部署,输出全程经内容安全网关过滤。双机热备按「主备 + 心跳」模式演练了四轮故障切换,最长一次人工制造的主节点断电,备用节点在 26 秒内接管全部流量。
这个阶段暴露的最大问题不在模型,而在监控:客户希望看到每一次问答的完整审计链路(谁问的、调用了哪段知识、花了多少算力)。我们为此开放了全链路日志模块,这部分工作量比预想多出一周,建议同类项目在合同阶段就预留。
验收指标怎么定
私有化项目的验收不能只看「答得像不像」。最终签约的验收口径包含四项:检索准确率(≥92%)、答案引用可溯源率(100%)、P95 响应延迟(≤2.5 秒)、故障切换时间(≤60 秒)。全部指标以客户随机抽样的 500 条真实问题为测试集,由客户业务方与蓝图交付团队共同盲评。
这套交付方法已经沉淀为「蓝芯」行业版的标准流程,底层模型的成本优化可参考《蓝芯 BlueCore 3.2 发布》;如果项目里还涉及内容生产环节,《云枢 CloudPivot 2.0 上线》介绍了一体化工作流的配置方式。有私有化部署需求的企业可直接通过联系合作获取《推理容量测算表》模板与报价框架。
