CrowdStrike· Jonathan Bar Or - D'Angelo Gonzalez·· 2 天前精选推荐指数74
CrowdStrike 提出 Guardrail-based Vulnerability Discovery，利用大模型护栏拒绝定位漏洞
When AI Guardrails Expose Vulnerabilities
AI 导读
CrowdStrike 研究团队提出 Guardrail-based Vulnerability Discovery（GbVD）方法：当大模型拒绝解释某段代码或中断推理时，这种护栏触发本身即可作为漏洞存在的信号。
推荐理由
原文提出把大模型护栏拒绝当作漏洞定位信号的方法，并给出 86 个测试场景中 73 次正确的结果，读者可据此评估护栏泄漏对攻防双方的影响。
来源：CrowdStrike · crowdstrike.com