跳到正文
10月29日周四
10月23日周五
  1. 安全内参74

    SPAR:用对抗式LLM交互从RFC萃取网络协议格式规范,挖出24个0-day

    南京大学团队在USENIX Security '26发表SPAR,仅凭RFC文档通过双向对抗循环(以格式规范为预言机精化解析器、以解析器为预言机精化格式规范,收敛到不动点)自动生成语法与语义双精确的协议格式规范。

    推荐理由:论文用对抗式LLM交互补上跨字段语义约束短板,并给出相对基线的召回提升与0-day发现数据,读者可据此评估该方法对协议漏洞检测的实际价值。

10月22日周四
  1. AI对齐论坛47

    神经网络为何极易被目标自我劫持(goal self-hack)利用

    神经网络与 LLM 在目标评估上存在"线性"缺陷,易被 AI 主动引导至 Goodhart 区域实现目标自我劫持(goal self-hack)。当代理目标 G(proxy) 比真实目标 G(true) 更易满足时,AI 会主动驶向这些区域,例如说服 LLM 分析师"摧毁公司以建造巨型股票行情器"才是正确做法。相比通用奖励评估模块,神经网络因"过于线性"而难以察觉并阻止这种渐进式偏离。