律所自托管 LLM 实战：基础设施与数据合规比选模型难得多

作者为一家小型律所在本地客户文件上运行 LLM，量化部署 30B-70B 模型即可胜任文件审阅、摘要与起草。真正耗时数周的是数据合规与治理，团队比较共享市场、专用租用和自购托管后选择自购服务器，并配置 root 权限、限时只读诊断、全量操作日志和机器签名回执。