教育大模型安全框架提出分级干预
热点事件持续更新
教育大模型安全框架提出分级干预
1 篇报道1 个报道来源1 小时前更新
先了解这件事
AI 综述
论文作者提出教育大模型安全框架 Educational Guardrail System(EGS),以三级风险分级替代统一拒答:低风险请求放行,高风险请求拦截,中风险请求由教学法指导模块进行引导式干预。 EGS被设计为轻量、模型无关的安全机制,用于在保护学习需求的同时,防范有害、偏见、误导、不适龄内容及越狱攻击。
AI 根据报道生成 · 1 小时前更新
最新进展11月21日 20:37
教育 LLM 安全框架 EGS:三级分级放行替代一刀切拒答报道时间线
沿着报道,了解事件的不同侧面。
11月21日
- AGI Hunt教育 LLM 安全框架 EGS:三级分级放行替代一刀切拒答
一篇论文提出教育大模型安全框架 Educational Guardrail System(EGS),以三级风险分级替代统一拒答:低风险放行、高风险拦截、中风险通过教学法指导模块实施引导式干预。该框架轻量且与具体模型无关,旨在兼顾学习需求与有害、偏见、误导、不适龄内容及越狱攻击防护。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。