AGI Hunt· morqon·· 2 小时前AI 评分29
Google Astra 写安全审计 prompt 时自动加入「do not invent CVEs」
让 AI 写安全审计 prompt,它自动加了句「不许编造 CVE」
AI 导读
网友 morqon 让 Google Astra 编写安全审计 prompt 时,模型主动加入“do not invent CVEs”,要求不要凭空编造 CVE 漏洞编号。该设定反映出模型在安全审计场景中容易产生看似真实却不存在的 CVE 编号。
来源:AGI Hunt · agihunt.info