AGI Hunt· kalyan_kpl·· 1 小时前AI 评分38
教育 LLM 安全框架 EGS:三级分级放行替代一刀切拒答
教育 LLM 安全框架 EGS:三级分级放行替代一刀切拒答
AI 导读
一篇论文提出教育大模型安全框架 Educational Guardrail System(EGS),以三级风险分级替代统一拒答:低风险放行、高风险拦截、中风险通过教学法指导模块实施引导式干预。该框架轻量且与具体模型无关,旨在兼顾学习需求与有害、偏见、误导、不适龄内容及越狱攻击防护。
来源:AGI Hunt · agihunt.info