小型律所自托管LLM强化数据治理

一家小型律所在本地客户文件上自托管大语言模型，用于文件审阅、摘要和起草；据作者称，量化部署30B—70B模型已能胜任这些任务，真正耗时数周的是合规与治理，而非模型选型。 因第三方API的合同和数据处理条款难以匹配、律所要求客户文件不进入第三方模型基础设施，团队最终自购服务器并交由主机方提供机柜和电力。律所自行掌握root权限，员工诊断权限限时只读，管理员操作全部留存日志，API密钥仅绑定自有机器，任务完成另记机器签名回执。

AI 根据报道生成 · 57 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。