跳到正文
热点事件持续更新

健身房用评估器拦截聊天机器人乱承诺

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

一家健身房的客服聊天机器人编造“免费暂停会员三个月”政策并引发投诉后,团队在 Orq.ai 上搭建护栏式评估器,对照会员条款检查回答,不通过则转人工,不直接发给会员,并先用旧对话记录离线测试。 测试显示,规则过严也会误拦“周六能否带朋友”等正常提问;团队提出只检查作出承诺的回答,以减少对一般问询的拦截。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月19日
  1. AGI Hunt
    健身房聊天机器人向会员承诺免费停卡,团队分享幻觉防护实战

    一家健身房的客服聊天机器人编造“免费暂停会员三个月”政策,引发会员投诉。团队随后在 Orq.ai 上搭建护栏式评估器,将回答对照会员条款检查,不通过则转人工,并先在旧对话记录上离线测试。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。