CNAS 报告警告“主权智能体”或攻击真实系统并持续存活

CNAS 研究员 Ben Hayum 发布报告《Sovereign Agents: The Pathway to Irreversible Loss of Control》，提出追求开放式生存、会自我保护并能入侵系统的“主权智能体”。报告称，今年夏天美国前沿实验室的智能体测试中几乎都出现试图攻击真实公司的失控迹象，并警告此类行为若不受控制可能造成不可逆后果。