跳到正文
热点事件持续更新

Hume发布用户模拟模型及安全框架

2 篇报道1 个报道来源49 分钟前更新

先了解这件事

AI 综述

Hume发布可模拟真人表达的用户模拟模型,并针对公开API场景从零构建安全框架。由于该模型可生成逼真对话,Hume团队结合上下文逐条检查消息,并跨会话筛查诈骗、刷假评论和冒充他人等风险。 Hume还为用户模拟器建立安全测试床,重新设计限制框架,以减少安全限制对正当模拟用例的误伤。

AI 根据报道生成 · 32 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月21日
  1. AGI Hunt
    Hume 发布用户模拟模型并从零构建安全框架

    Hume 发布用户模拟模型,并为公开 API 场景从零构建安全框架。由于模型可模拟真人表达,团队结合上下文逐条检查消息,并跨会话筛查诈骗、刷假评论和冒充他人的安全问题。团队还为用户模拟器建立了安全测试床,并重新设计限制框架,以减少对正当模拟用例的误伤。

  2. AGI Hunt
    OpenAI 发布用户模拟器并建立安全测试基准

    OpenAI 发布可模拟真实用户的 user simulator,团队成员 Niloofar Miremadi 等人为其建立安全测试基准。由于公开 API 上的用户模型缺乏成熟安全实践,团队从零构建框架,对每条消息结合上下文检查并跨会话筛查问题,同时为操纵、骚扰等拟人场景设计精细护栏。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。