私有化部署方案:把 AI 装进律所内网
整套系统部署在律所自己的服务器上,算力、知识库、文档解析都在所内,不需要把任何案件材料交给外部。交付验收的标准很直接:拔掉外网网线,全功能仍可正常运行。
部署位置
律所内网服务器(物理机或虚拟化环境均可),不依赖任何外部云服务。
运行条件
支持 CPU 与 GPU 两种推理方式,具体规格取决于并发人数与模型规模,可按需扩展。
验收标准
拔掉外网网线后,知识库检索、AI 问答、文书、合同、卷宗解析全功能可用。
运行环境建议
以下为通用建议,实际配置以环境评估结果为准。
| 律所规模 | 并发使用人数 | 推理方式建议 | 说明 |
|---|---|---|---|
| 小型律所 / 团队 | 10 人以内 | CPU 推理或入门级 GPU | 以知识库检索、问答、文书起草为主,成本可控 |
| 中型律所 | 10 – 50 人 | 单张专业级 GPU | 可支撑卷宗批量解析与合同筛查并发 |
| 大型律所 / 分所协同 | 50 人以上 | 多卡或多节点 | 解析队列可暂停/恢复,建议下班空闲时跑批量任务 |
部署相关的关键事实
- 网络要求
- 部署期内需临时联网拉取镜像与模型;交付后可完全断网运行
- 解析队列
- 文档解析队列进度可视化,可暂停/恢复,避免占用上班时段算力
- 模型参数
- 模型、并发、上下文条数等 AI 参数可在系统设置中调整,改完即时生效
- 离线更新
- 法规与知识更新通过运维期的离线更新包定期导入,不联网抓取
- 系统监控
- CPU / 内存 / 磁盘 / 网络 / GPU 与各服务在线状态可查,支持查看当前在线人数
实施步骤
从环境评估到断网验收,五个阶段。
- 环境评估:评估律所内网服务器资源、并发人数与模型规模,确定 CPU 或 GPU 推理方式
- 内网部署:在所内服务器部署推理服务、向量库、文档解析服务与业务系统,配置 IP 白名单与账号体系
- 知识初始化:批量导入历史案例、合同模板、法规与办案指引,完成切片向量化与可见范围配置
- 权限与培训:按部门与角色配置权限树,开启水印与留痕策略,完成律师与管理员培训
- 断网验收:拔掉外网网线进行验收,确认全功能可用,交付离线运维与更新机制
部署前常见疑问
需要准备什么样的服务器?
在律所内网准备一台或多台服务器即可,支持 CPU 与 GPU 两种推理方式。具体规格取决于并发人数、模型规模与卷宗解析量,我们可在咨询阶段提供环境评估建议。
部署期间需要联网吗?
部署期需要临时联网拉取镜像与模型文件;交付完成后系统即可完全断网运行,日常使用不需要外网。
法规和模型怎么更新?
系统不联网抓取。法规更新通过运维期的离线更新包定期导入;模型与 AI 参数可在系统设置中调整,改完即时生效。
能限制只能在所内访问吗?
可以。系统支持 IP 白名单,只允许所内网段访问;同时提供分级权限、空闲超时自动登出、界面水印与全量操作留痕。