研究者质疑Anthropic推迟预训练的安全效果
热点事件持续更新
研究者质疑Anthropic推迟预训练的安全效果
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
研究者 thlarsen 质疑 Anthropic 因安全考虑将预训练推迟一个多月的做法，认为算法研发并未停止，即使暂不启动训练，竞争对手仍可能获取算法成果，因此安全收益有限；他主张通过 pacing 约束算法产出环节，即限制可训练模型的上限，而非只限制已训练模型的输出。他并称，在智能爆炸阶段，更早完成训练可能获得更强的模型并进一步加速算法进步。
AI 根据报道生成 · 1 小时前更新
最新进展10月30日 04:55
Anthropic S-1安全推迟预训练的效力引发质疑报道时间线
沿着报道，了解事件的不同侧面。
10月30日
- AGI HuntAnthropic S-1安全推迟预训练的效力引发质疑
研究者 thlarsen 质疑 Anthropic 因安全考虑将预训练推迟一个多月的实际效果，认为算法研发未停止，最终仍可能发布更强模型。其认为安全收益有限，并支持在算法产出环节设置 pacing 上限，而非仅限制已训练模型的输出；同时指出，在智能爆炸阶段更早完成训练可能进一步加速算法进步。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。