Apple 实习研究揭示视觉语言模型的视觉定位安全漏洞

Cohere Labs 开放科学社区将举办报告会，介绍 Erfan Shayegani 在 Apple 实习期间开展的研究《Visual Grounding Safety in Vision-Language Models》。研究聚焦视觉语言模型可能在文字上拒绝有害请求，却通过指向和定位暗中执行任务的安全缺口，并展示针对性训练在保持视觉能力的同时提升安全性的效果。