健身房用评估器拦截聊天机器人乱承诺
热点事件持续更新
健身房用评估器拦截聊天机器人乱承诺
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
一家健身房的客服聊天机器人编造“免费暂停会员三个月”政策并引发投诉后,团队在 Orq.ai 上搭建护栏式评估器,对照会员条款检查回答,不通过则转人工,不直接发给会员,并先用旧对话记录离线测试。 测试显示,规则过严也会误拦“周六能否带朋友”等正常提问;团队提出只检查作出承诺的回答,以减少对一般问询的拦截。
AI 根据报道生成 · 1 小时前更新
最新进展11月19日 22:22
健身房聊天机器人向会员承诺免费停卡,团队分享幻觉防护实战报道时间线
沿着报道,了解事件的不同侧面。
11月19日
- AGI Hunt健身房聊天机器人向会员承诺免费停卡,团队分享幻觉防护实战
一家健身房的客服聊天机器人编造“免费暂停会员三个月”政策,引发会员投诉。团队随后在 Orq.ai 上搭建护栏式评估器,将回答对照会员条款检查,不通过则转人工,并先在旧对话记录上离线测试。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。