跳到正文
AGI Hunt· morqon·· 2 小时前AI 评分29

Google Astra 写安全审计 prompt 时自动加入「do not invent CVEs」

让 AI 写安全审计 prompt,它自动加了句「不许编造 CVE」

AI 导读

网友 morqon 让 Google Astra 编写安全审计 prompt 时,模型主动加入“do not invent CVEs”,要求不要凭空编造 CVE 漏洞编号。该设定反映出模型在安全审计场景中容易产生看似真实却不存在的 CVE 编号。

来源:AGI Hunt · agihunt.info