AGI Hunt· jarrodwatts·· 2 小时前AI 评分29
开发者吐槽:无门槛使用去对齐模型可攻击,Claude 基础防御工作受限
开发者吐槽:无门槛去审查模型能攻击,正规渠道连基础防御都不让做
AI 导读
开发者 Jarrod Watts 指出,攻击者可在无 KYC 审查的情况下使用“abliterated”开源模型开展网络攻击。防守方完成人脸扫描、护照上传等 Anthropic 身份验证后,Claude 仍可能因 cyber 约束拒绝基础防御工作,形成攻防能力不对称。
来源:AGI Hunt · agihunt.info