AGI Hunt· LukeW·2026-11-21 00:58· 1 小时前AI 评分54Hume 发布用户模拟模型并从零构建安全框架Hume 团队为拟人用户模拟模型从零构建安全框架AI 导读Hume 发布用户模拟模型,并为公开 API 场景从零构建安全框架。由于模型可模拟真人表达,团队结合上下文逐条检查消息,并跨会话筛查诈骗、刷假评论和冒充他人的安全问题。团队还为用户模拟器建立了安全测试床,并重新设计限制框架,以减少对正当模拟用例的误伤。来源:AGI Hunt · agihunt.info安全对齐模型发布#模型发布#安全/对齐查看事件全部后续