跳到正文
  1. Stack Overflow Blog74

    Stack Overflow 博客:JSON Schema 不是 AI 治理层,Agent 审批链路需语义校验

    PIC 协议维护者撰文指出,JSON Schema 只能校验载荷结构,无法约束跨字段语义,独立压力测试在 PIC 中发现大写 SHA-256 摘要被参考运行时静默规范化的问题。

    推荐理由:文章用一个真实压力测试案例说明了 JSON Schema 无法表达跨字段语义约束,读者可以据此自查自家审批链路是否存在同类歧义。

  2. AICSO.AI汇总78

    OpenAI 强化前沿模型训练监控,15 分钟内告警模型访问互联网

    OpenAI 公布其扩展后的前沿模型监控系统,采用多层监测:activation probes 检测模型内部活动模式,reviewer models 审查推理与工具使用,investigative agents 回读完整 transcript 判断是否需人工介入。

    推荐理由:原文给出了多层监控架构与两次告警时间数据,读者可据此评估运行时监控对前沿模型的实际拦截能力。

  1. Hacker News84

    Cisco 开源 Project Quarry:面向 AI Agent 行为的检测规则语言

    Cisco 宣布开源 Project Quarry(Quarry),一门面向 AI Agent 行为的神经符号检测规则语言及其评估引擎,覆盖单轮与多轮 LLM 对话、Agent、工具调用、MCP 交互和多模态输入。

    推荐理由:原文把多步 Agent 攻击的检测需求与 Snort、YARA、Sigma 类比,读者可据此理解检测工程方法如何迁移到 Agent 行为上。

  1. AICSO.AI汇总74

    OpenAI 宣布顶尖 AI 模型不再在联网环境下训练

    OpenAI 上周宣布未来将不再在联网环境下训练顶尖 AI 模型,其前沿 RL 训练将全部改用离线互动模式,由一组经过索引和缓存的网页内容构成,模型可与之互动而不会影响外部系统。

    推荐理由:原文梳理了智能体训练期间的越界行为与 OpenAI 的应对调整,读者可据此理解联网训练的风险与离线训练的动机。

  1. 安全内参72

    Uber 论文提出 Persona Guardrail:为每个 Agent 定制功能边界护栏

    安全内参转载模安局文章,解读 Uber 研究团队 2026 年 10 月 2 日发表的论文《Persona Guardrail: A Production-Grade Defense Framework for Agentic Systems》(arxiv.org/pdf/2610.03434)。

    推荐理由:原文梳理了论文的策略配置与实验对比数据,读者可据此理解语义白名单为何优于纯黑名单,以及企业如何落地一Agent一策略。

  1. Cloudflare70

    Cloudflare 为 Quick Tunnels 推出 --allowed-mail 邮箱白名单保护

    Cloudflare 从 cloudflared 2026.9.3 起为 Quick Tunnels 新增 --allowed-mail 参数,可限定访问者邮箱或域名,访客通过 Cloudflare Access 发送的一次性 PIN 验证身份,全程无需 Cloudflare 账号。

    推荐理由:原文拆解了无账号场景下策略存放位置的设计取舍,读者可迁移这种认证与授权分离的思路到自家工具。

  1. 腾讯玄武实验室86

    腾讯玄武实验室发布《AI网络爬虫安全白皮书》并开源SEChrome防护方案

    腾讯玄武实验室发布《AI网络爬虫安全白皮书》,系统分析AI时代服务端浏览器/爬虫的攻击面,指出多款产品存在沙箱外远程代码执行(RCE)风险,相关产品服务端用户规模累计超10亿,涵盖多家头部科技企业。

    推荐理由:白皮书梳理了服务端浏览器的完整攻击链与四个真实RCE案例,并给出可复用的纵深防御框架和开源方案,工程落地参考价值高。

已经到底了