跳到正文
AGI Hunt· thebasepoint·· 2 小时前AI 评分36

Astra 被拒的“安全研究”实为不安全请求,安全训练在局部生效

被拒的"安全研究"实为不安全请求,Astra 安全训练在局部生效

AI 导读

Astra 拒绝的所谓“安全研究”请求,在局部层面本身属于不安全请求,实际安全训练因此将其拦截。这些请求可能以监控规避、失对齐模型 organism 或红队测试等提升安全性的目的提出,因而形成“以安全为名的越狱式请求”。Astra 对部分安全相关研究方向支持较少,但其行为难以与普通不当请求区分。

来源:AGI Hunt · agihunt.info