白皮书：AI 私有化落地方法（方法篇）

适用范围与声明：本文总结的是方法，不构成法律、合规或采购建议。涉及客户保密、数据出境、未成年人保护、采购招标等事项，以相关法规、主管部门要求和机构自身制度为准。文中的数字（如评估集规模、并发比例）为经验性参考，需用您的实际情况校准。

1. 现状判断：三类机构的共同点

律所、知识产权所和教育机构有三个共同点：材料敏感，不适合随意上传公有云；工作以文档理解、检索问答和文书初稿为主；对“答案可核对”的要求远高于对“回答多流畅”的要求。这决定了落地的重点不在追求最大的模型，而在文档处理质量、可溯源的引用、权限隔离和人工复核机制。

2. 场景评估框架：三个问题

1. 现在由人在做吗？有明确的执行人和流程，才有改进的基线。
2. 做得慢吗？耗时明显、重复性强的环节才有收益空间。
3. 结果有据可查吗？能对照原文、清单或标准核对，AI 才能被安全地使用。

三条同时成立，才值得先做；缺一条，要先补前置条件（文档治理、流程梳理、责任划分）。涉及资质、放行、诊断、法律后果、成绩评价等结论的环节，AI 只提供依据与初稿，不替代专业判断。

3. 技术路径：知识库优先，模型其次

• 检索增强（RAG）优先于微调：多数场景通过文档处理与检索优化即可满足，不默认微调。
• 六个环节：文档解析、切分与元数据、混合检索、重排序、带出处的生成与拒答、评估与回归，详见企业知识库搭建流程。
• 模型规模：14B～32B 级配合知识库覆盖多数场景，复杂推理再评估 70B 级，不必追求满血模型。
• 硬件：软件层不绑定硬件，国产卡与 NVIDIA 方案按合规与实测选择，见选型指南。

4. 数据安全与合规的基本原则

• 数据先分级再入库；权限过滤在检索阶段前置，越权内容不进入模型上下文。
• 部署形态按数据边界选择：本地部署、自有云专属实例，或在敏感度允许时使用已备案的国产模型服务。
• 提问、命中片段、生成内容与人工复核全程留日志，可审计。
• 数据未经书面授权不用于任何模型训练或调优；合同约定留存期限与清除方式。
• 推理服务只在内网访问，通过网关认证与限流。

5. 验收：评估集与并行试运行

验收指标包括检索命中率、答案有据率、合理拒答率、人工复核工作量和响应时间，含义与用法见效果如何衡量。评估集由业务人员与实施方共同构建，一般 100～300 题，题目与标准答案归客户所有。上线前约定通过线，上线后与原工作方式并行试运行，比对差异。

6. 成本模型

预算分为硬件、软件授权、实施、接口、培训、年度服务和电力托管几类，详见成本构成与对比方法。比较云端与本地时用同一时间窗口（如三年）的总成本，并用 PoC 实测用量而不是估计值。收益测算以自有数据的耗时变化为准，参见知产所收益评估方法。

7. 90 天路线图（参考）

周期取决于场景复杂度、文档质量和内部配合，涉及多系统对接或大量扫描件时会更长。

8. 启动前检查清单

• 首批 1～2 个场景与牵头人
• 文档范围、密级与权限划分，文档责任维护部门
• 评估集出题人与验收通过线
• 数据边界与部署形态（本地、自有云、云端模型服务）
• 是否有国产化、信创或招标方面的要求
• 已有系统及接口条件
• 人工复核环节的岗位与责任划分
• 上线后知识库与评估集的维护责任人
• 培训计划与使用规范

9. 案例篇（待发布）

案例篇将在有真实 PoC 数据、取得客户书面同意并隐去客户信息后发布。如您愿意作为试点共同打磨场景，可通过页面下方预约评估。

常见问题