Jailbreak Connectivity:面向多模态大模型的多样化、可迁移与通用视觉越狱框架
arXiv:2610.38091 提出 Jailbreak Connectivity(JC)视觉越狱框架,将成功的对抗图像视为图像空间中通过低损失区域相连的区域而非孤立点,通过优化连续对抗路径采样出多样、可迁移乃至通用的越狱图像。
AI 安全方向的论文、会议、比赛、教程与资料,按内容形态筛选,支持搜索。
arXiv:2610.38091 提出 Jailbreak Connectivity(JC)视觉越狱框架,将成功的对抗图像视为图像空间中通过低损失区域相连的区域而非孤立点,通过优化连续对抗路径采样出多样、可迁移乃至通用的越狱图像。
研究发现视频 RLVR 训练存在捷径放大效应,模型越来越倾向文本先验答案而非视觉证据,表现为感知不确定性坍缩——答案分布持续锐化但视觉证据带来的不确定性下降逐渐减弱。