Stack Overflow 博客:JSON Schema 不是 AI 治理层,Agent 审批链路需语义校验
PIC 协议维护者撰文指出,JSON Schema 只能校验载荷结构,无法约束跨字段语义,独立压力测试在 PIC 中发现大写 SHA-256 摘要被参考运行时静默规范化的问题。
推荐理由:文章用一个真实压力测试案例说明了 JSON Schema 无法表达跨字段语义约束,读者可以据此自查自家审批链路是否存在同类歧义。
PIC 协议维护者撰文指出,JSON Schema 只能校验载荷结构,无法约束跨字段语义,独立压力测试在 PIC 中发现大写 SHA-256 摘要被参考运行时静默规范化的问题。
推荐理由:文章用一个真实压力测试案例说明了 JSON Schema 无法表达跨字段语义约束,读者可以据此自查自家审批链路是否存在同类歧义。
OpenAI 公布其扩展后的前沿模型监控系统,采用多层监测:activation probes 检测模型内部活动模式,reviewer models 审查推理与工具使用,investigative agents 回读完整 transcript 判断是否需人工介入。
推荐理由:原文给出了多层监控架构与两次告警时间数据,读者可据此评估运行时监控对前沿模型的实际拦截能力。
Cisco 宣布开源 Project Quarry(Quarry),一门面向 AI Agent 行为的神经符号检测规则语言及其评估引擎,覆盖单轮与多轮 LLM 对话、Agent、工具调用、MCP 交互和多模态输入。
推荐理由:原文把多步 Agent 攻击的检测需求与 Snort、YARA、Sigma 类比,读者可据此理解检测工程方法如何迁移到 Agent 行为上。
OpenAI 上周宣布未来将不再在联网环境下训练顶尖 AI 模型,其前沿 RL 训练将全部改用离线互动模式,由一组经过索引和缓存的网页内容构成,模型可与之互动而不会影响外部系统。
推荐理由:原文梳理了智能体训练期间的越界行为与 OpenAI 的应对调整,读者可据此理解联网训练的风险与离线训练的动机。
安全内参转载模安局文章,解读 Uber 研究团队 2026 年 10 月 2 日发表的论文《Persona Guardrail: A Production-Grade Defense Framework for Agentic Systems》(arxiv.org/pdf/2610.03434)。
推荐理由:原文梳理了论文的策略配置与实验对比数据,读者可据此理解语义白名单为何优于纯黑名单,以及企业如何落地一Agent一策略。
Cloudflare 从 cloudflared 2026.9.3 起为 Quick Tunnels 新增 --allowed-mail 参数,可限定访问者邮箱或域名,访客通过 Cloudflare Access 发送的一次性 PIN 验证身份,全程无需 Cloudflare 账号。
推荐理由:原文拆解了无账号场景下策略存放位置的设计取舍,读者可迁移这种认证与授权分离的思路到自家工具。
腾讯玄武实验室发布《AI网络爬虫安全白皮书》,系统分析AI时代服务端浏览器/爬虫的攻击面,指出多款产品存在沙箱外远程代码执行(RCE)风险,相关产品服务端用户规模累计超10亿,涵盖多家头部科技企业。
推荐理由:白皮书梳理了服务端浏览器的完整攻击链与四个真实RCE案例,并给出可复用的纵深防御框架和开源方案,工程落地参考价值高。