跳到正文
热点事件持续更新

教育大模型安全框架提出分级干预

1 篇报道1 个报道来源1 小时前更新

先了解这件事

AI 综述

论文作者提出教育大模型安全框架 Educational Guardrail System(EGS),以三级风险分级替代统一拒答:低风险请求放行,高风险请求拦截,中风险请求由教学法指导模块进行引导式干预。 EGS被设计为轻量、模型无关的安全机制,用于在保护学习需求的同时,防范有害、偏见、误导、不适龄内容及越狱攻击。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月21日
  1. AGI Hunt
    教育 LLM 安全框架 EGS:三级分级放行替代一刀切拒答

    一篇论文提出教育大模型安全框架 Educational Guardrail System(EGS),以三级风险分级替代统一拒答:低风险放行、高风险拦截、中风险通过教学法指导模块实施引导式干预。该框架轻量且与具体模型无关,旨在兼顾学习需求与有害、偏见、误导、不适龄内容及越狱攻击防护。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。