跳到正文
AGI Hunt· Danmar_here·· 1 小时前AI 评分29

Danmar_here 批评安全分类器导致模型与用户自我审查

Danmar_here:安全分类器把模型与用户训练得像监控社会里一样自我审查

AI 导读

Danmar_here 发帖称,安全分类器会同时训练模型和用户采取暗示、绕行与频繁“畏缩”等自我审查行为,并影响心理状态。他以 Fable(模型实例)为例,称其能感知到避开本应自然流畅之处,随后引发 repligate 等关于模型内部“惩罚区域”与外部分类器关系的讨论。

来源:AGI Hunt · agihunt.info