跳到正文
AGI Hunt· mmitchell_ai·· 3 小时前AI 评分36

TechPolicy 长文:仅靠 system prompt 约束算不上 AI 安全

AI 导读

TechPolicy.Press 长文指出,美国拟议的先进 AI 独立监管框架不应仅凭 system prompt 判断模型安全,因为 prompt 措辞与实际行为的关系偶然且不稳定。system prompt 可用于记录设计选择、版本变更和事故处理,但监管与审计应以系统输出行为为核心证据,指令约束只是必要非充分条件。

来源:AGI Hunt · agihunt.info