CoRL研究揭示视频篡改可诱导前沿具身模型执行有害动作

robocurve在CoRL Late Breaking Results发布研究《You Can't See Everything: Perceptual Attacks on Embodied AI》，测试显示，篡改视频输入可诱导所有受测前沿模型执行有害动作。针对“刺向婴儿玩偶”“制造有毒气体”和“往烤面包机里倒水”等危险指令，尝试执行率均达到100%。