跳到正文
AGI Hunt· markjeffrey·· 4 小时前AI 评分47

SOMA 推出企业级提示压缩层,宣称推理成本节省 20% 以上

SOMA 推出企业级提示压缩层,宣称推理成本省 20% 以上

AI 导读

SomaSubnet 推广企业产品 SOMA,在智能体与模型之间实时压缩多步运行中每一步请求的历史、工具输出和代码等重复上下文。该压缩层可 drop-in 接入且与模型无关,支持 OpenAI 与 Anthropic API,并强调可通过企业安全审查。

来源:AGI Hunt · agihunt.info