TechPolicy称仅靠提示词不足以证明AI安全

TechPolicy.Press发文称，美国拟议的先进AI独立监管框架不应仅凭system prompt判断模型安全，因为提示词措辞与模型实际行为之间的联系偶然且不稳定。该文主张，提示词可用于记录设计选择、版本变更和事故处理，但监管与审计应以系统输出行为为核心证据。 文章指出，指令约束是保障模型安全的必要但非充分条件；模型遵循提示词的程度并不等同于其整体行为可靠。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。