跳到正文
今天10月30日周五1 条
10月28日周三
  1. 安全内参73

    AgentSpy:从操作系统层面观测AI Agent真实执行行为

    瑞士圣加仑大学等机构研究人员发表论文《AgentSpy: Making AI Agent Behavior Observable》(https://arxiv.org/pdf/2610.06001),提出在独立运行环境中通过auditd、laurel、Zeek和基于eBPF的Falco监测Agent及其子进程的系统调用与网络活动,不依赖Agent自身提供的执行轨迹。

    推荐理由:论文用系统级监测补足执行轨迹盲区,实验数据具体展示了通过全部测试的Agent仍可能存在的隐藏行为问题。

10月23日周五
10月22日周四
  1. AI对齐论坛71

    evhub 提出可监控性的四类划分与政策思路

    evhub 在 AI 对齐论坛发文,回应 Redwood 的可监控性政策提案及其反提案,阐述自己对 monitorability 的整体思考,并声明内容仅代表个人而非 Anthropic 官方立场。

    推荐理由:原文给出了可监控性的四类划分及各自的评测参照,读者可据此理解现有对齐审计与监控评测的覆盖边界。

10月21日周三
  1. AICSO.AI汇总78

    METR 外部审查 Anthropic 2026 年 8 月风险报告:认同失准风险低,但称监控系统弱于公开证据所示

    METR 对 Anthropic《Risk Report: August 2026》中“高风险场景下的失准”一节做了外部审查,认同其结论即截至 2026 年 7 月 15 日所覆盖模型(含 Mythos 5 与内部模型 Model 2)的灾难性失准风险为低,但认为这主要源于模型能力有限,而非安全护栏与对齐训练。

    推荐理由:METR 对 Anthropic 风险报告的第三方审查,指出其监控评测与生产监控脱节,并给出可复用的红队建议。

  2. AICSO.AI汇总60

    OpenAI 提出配对监控性与部署后风险两项指标补充 g-mean²

    OpenAI 在 g-mean² 之外提出两项补充指标,用于衡量模型可监控性。配对监控性指标只在两个模型共同支持的实例上比较,避免能力差异导致的实例选择偏差;部署后风险指标把监控器当作拒绝门,模拟最多 K 次重试后系统仍输出坏结果的概率。作者用七模型合成实验验证配对指标能恢复已知排序,并在 7 个 agent 模型的历史 system card 数据上比较三种指标的一致性,建议三者同时报告。