UCSD发布vstack与veriserve验证推理引擎
热点事件持续更新
UCSD发布vstack与veriserve验证推理引擎
1 篇报道1 个报道来源1 小时前更新
先了解这件事
AI 综述
UCSD Hao AI Lab发布面向编程智能体的五阶段形式化验证工作流vstack，以及支持Prefill-Decode分离的可验证推理引擎原型veriserve，并将两者用于检查SGLang和vLLM的生产级推理服务。 团队称，该方案发现3类涉及RDMA和缓存并发的缺陷，并向上游提交6个合并请求。veriserve在GB200上的测试中，使p50 TPOT平均开销增加0.18%。
AI 根据报道生成 · 1 小时前更新
最新进展11月13日 01:27
UCSD Hao AI Lab 发布 vstack 与 veriserve，用 516,973 条义务验证 LLM 推理引擎报道时间线
沿着报道，了解事件的不同侧面。
11月13日
- AGI HuntUCSD Hao AI Lab 发布 vstack 与 veriserve，用 516,973 条义务验证 LLM 推理引擎
UCSD Hao AI Lab 发布面向编程智能体的 5 阶段形式化验证工作流 vstack，以及支持 PD 分离的可验证推理引擎原型 veriserve。团队将其应用于 SGLang 和 vLLM 的生产级 Prefill-Decode 推理服务，发现 3 类 RDMA 与缓存并发 bug，并提交 6 个上游 PR。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。