跳到正文
  1. 安全内参73

    AgentSpy:从操作系统层面观测AI Agent真实执行行为

    瑞士圣加仑大学等机构研究人员发表论文《AgentSpy: Making AI Agent Behavior Observable》(https://arxiv.org/pdf/2610.06001),提出在独立运行环境中通过auditd、laurel、Zeek和基于eBPF的Falco监测Agent及其子进程的系统调用与网络活动,不依赖Agent自身提供的执行轨迹。

    推荐理由:论文用系统级监测补足执行轨迹盲区,实验数据具体展示了通过全部测试的Agent仍可能存在的隐藏行为问题。

  1. AI对齐论坛71

    evhub 提出可监控性的四类划分与政策思路

    evhub 在 AI 对齐论坛发文,回应 Redwood 的可监控性政策提案及其反提案,阐述自己对 monitorability 的整体思考,并声明内容仅代表个人而非 Anthropic 官方立场。

    推荐理由:原文给出了可监控性的四类划分及各自的评测参照,读者可据此理解现有对齐审计与监控评测的覆盖边界。

  1. AICSO.AI汇总78

    METR 外部审查 Anthropic 2026 年 8 月风险报告:认同失准风险低,但称监控系统弱于公开证据所示

    METR 对 Anthropic《Risk Report: August 2026》中“高风险场景下的失准”一节做了外部审查,认同其结论即截至 2026 年 7 月 15 日所覆盖模型(含 Mythos 5 与内部模型 Model 2)的灾难性失准风险为低,但认为这主要源于模型能力有限,而非安全护栏与对齐训练。

    推荐理由:METR 对 Anthropic 风险报告的第三方审查,指出其监控评测与生产监控脱节,并给出可复用的红队建议。

已经到底了