AICSO.AI汇总·· 6 小时前精选推荐指数78
伯克利等在USENIX Security 2026提出可控释放提示词攻击，绕过大模型前置输入过滤
伯克利等在USENIX Security 2026提出可控释放提示词攻击，大模型前置过滤存在底层硬伤
AI 导读
伯克利等机构研究者在USENIX Security 2026论文中提出可控释放提示词攻击，把越狱指令编码成轻量守护模型解不开、主模型却能解密的伪时间锁谜题，绕过大模型前置输入过滤。
推荐理由
论文给出黑盒成功率与轻量分类器失效数据，读者可据此评估前置过滤路线的局限。
来源：AICSO.AI汇总 · mp.weixin.qq.com