大模型私有化部署的下一关，几乎都是同一个需求：让模型「知道公司的知识」。RAG（检索增强生成）看似简单——把文档切碎、存进向量库、检索后拼进提示词——但真正落地过的人都知道，翻车点全在细节里。这篇基于我们交付多个企业知识库项目的复盘，把四个高频翻车点与做法讲透。
第一坑：数据治理
知识库的效果上限由数据决定，而不是模型。最常见的翻车模式是「把历史文档一股脑灌进去」：五年前的作废制度、同一问题的三个版本、格式错乱的表格——检索时被召回的恰恰是过时版本。我们的做法是三条线：入库前做版本标记（同一主题只保留有效版）、剔除纯噪声文档（会议纪要、草稿）、为每份文档标注生效时间与责任部门。治理花的时间通常在总工期的三分之一以上，这笔账省不得。
第二坑：切分策略
切片粒度直接决定召回质量。切得太碎，答案支离破碎；切得太大，检索噪声上升。实操中按文档结构切分优于按固定字数切分：制度类按条款切、手册类按章节切、表格类整表保留并附上下文摘要。另外两个细节值得注意：给每个切片补一行「来源 + 层级路径」的元数据（召回后可用于引用展示与权限过滤）；中文场景下适当放大重叠窗口，避免一句话被拦腰截断。
第三坑：先调参后评测
很多团队的顺序是反的：先反复调检索参数和提示词，最后才想起来问效果到底如何。正确做法是先建评测集——从真实工单里挑出 100-200 个问题，人工标注正确答案与来源切片，然后再开始调优。有了评测集，每个改动都能量化：召回率、引用准确率、回答完整度三个指标一起看。经验值：评测体系上线后，调优效率至少翻倍，因为你能明确知道「改对了」还是「改坏了」。
第四坑：权限与审计
企业知识从来不是全员可见的。人事制度、报价底价、技术专利——这些内容一旦被无关岗位问出来，事故就发生了。权限控制要做在检索层而不是回答层：按文档密级与部门给切片打标签，检索时先过滤再排序，确保模型「根本看不到」无权内容。同时保留完整问答审计日志（谁、何时、问了什么、引用了哪些切片），既是安全底线，也是后续优化的素材。
知识库通常建立在大模型私有化部署之上，部署流程见《大模型私有化部署实录》；上线前的合规要求见《大模型备案与安全评估》；关于数据安全的常见问题可查看常见问题页；需要知识库方案评估，欢迎通过联系合作沟通。