AGI Hunt· paraschopra·· 3 小时前AI 评分36
paraschopra:abliterated 模型风险高,但大厂护栏也让科学家受挫
paraschopra:abliterated 模型风险大,但大厂护栏同样让科学家受挫
AI 导读
paraschopra 提出一个安全两难:删除拒绝机制的 abliterated 模型可能被用于网络攻击或生物武器设计,而 Anthropic/OpenAI 主流模型的过度安全过滤又让 Claude 等模型在生物与安全问题上降级到旧模型,阻碍前沿研究。他指出,厂商内部可使用拒绝率不同的版本,形成不公平;因此要么全面禁止 abliterated 模型,要么让所有人平等获取。
来源:AGI Hunt · agihunt.info