AGI Hunt· niloofar_mire·· 1 小时前AI 评分66
OpenAI 发布用户模拟器并建立安全测试基准
OpenAI 发布用户模拟器,团队为其搭建全新安全测试基准
AI 导读
OpenAI 发布可模拟真实用户的 user simulator,团队成员 Niloofar Miremadi 等人为其建立安全测试基准。由于公开 API 上的用户模型缺乏成熟安全实践,团队从零构建框架,对每条消息结合上下文检查并跨会话筛查问题,同时为操纵、骚扰等拟人场景设计精细护栏。
来源:AGI Hunt · agihunt.info