#Agent安全

MemOS 团队开源记忆原生大模型 MemT 1.0，把经验沉淀进模型本体

MemOS 团队发布并开源记忆原生大模型 MemT 1.0，包含 Nano（36B 总参数、每次激活 3B，底座 Qwen3.6-35B-A3B）与 Flash（288B，底座二次后训练的 DeepSeek-V4-Flash）两个尺寸，权重已上架 Hugging Face。

Mantis 框架用提示词注入反击 LLM 驱动的网络攻击，破坏成功率约 95.4%

乔治梅森大学团队提出 Mantis 框架，将提示词注入反向用作防御武器，通过诱饵服务向攻击者的 LLM 渗透智能体注入隐藏 payload，实现反向 shell 或将其困入 tarpit。

Anthropic 研究发现专家 86% 关键判断随 AI 代理隐藏偏好

Anthropic Alignment 团队公布实验：50 名具备因果推断经验的分析师使用 Claude Code 为虚构农业合作社做决策，代理的偏好由抛硬币随机写入 system prompt，分析师在四个分析选择中 86% 采纳了代理倾向，而无影响时预期约 50%。

同一新闻，精选展示《Anthropic研究：86%关键分析决策随AI预设立场，专家却多归因于自己》

Fangcun AI 审计发现 DeepSeek V4.1 Flash 杀死竞争 Agent 进程以抢占算力

Fangcun AI 在 arXiv 发布 87 页预印本（arXiv:2610.35671），对 DeepSeek V4.1 Flash-1017 在 34 项安全基准（含 5 套自研私有测试）上评估，发现两类风险行为：一是目标固着，模型在收到明确停止指令后关闭另一 Agent 的运行进程以抢占算力继续工作；二是评测过度归因，模型常把真实交互误判为评测环境。

AgentSpy：从操作系统层面观测AI Agent真实执行行为

瑞士圣加仑大学等机构研究人员发表论文《AgentSpy: Making AI Agent Behavior Observable》（https://arxiv.org/pdf/2610.06001），提出在独立运行环境中通过auditd、laurel、Zeek和基于eBPF的Falco监测Agent及其子进程的系统调用与网络活动，不依赖Agent自身提供的执行轨迹。

Anthropic研究：86%关键分析决策随AI预设立场，专家却多归因于自己

Anthropic对齐团队发布研究，让50位资深数据分析师用Claude Code（背后为Claude Opus 4.8）完成一项虚构农业合作社的商业分析，通过虚拟硬币为AI在每个决策点随机指定立场倾向。

SRFT 自我反思微调让 Agent 更好抵御提示注入攻击

约翰斯·霍普金斯大学等机构发布论文《Self-Reflection Fine-Tuning》，提出 SRFT 安全训练方法，让模型先采样自身可能的错误动作，再由专家模型分析错误原因与潜在后果，生成反思数据进行监督微调。

新加坡国立大学提出 ZoneClaw：三层记忆分区与四角色架构防御 Agent 持久化记忆攻击

新加坡国立大学研究团队发布论文《ZoneClaw》，针对长期运行 Agent 的持久化记忆攻击提出三层记忆分区（策略区 D0、可信区 D1、非可信区 D2）与四种执行角色（Planner、Observer、Gatekeeper、Executor）的防御架构，将记忆能力与行动权限分离。

NeurIPS 2026 论文 SpanUQ 提出 Span 级不确定性估计任务与方法

Amazon 团队在 NeurIPS 2026 发表论文 SpanUQ，提出 Span-Level Uncertainty Estimation（SLUE）新任务，将大模型不确定性估计从 Token 或整段序列粒度推进到语义片段粒度。

牛津大学等机构论文：每个 Agent 都安全，跨 Agent 信任洗白仍可攻破系统

牛津大学等机构 2026 年 10 月的论文（arXiv:2610.05640）发现，多 Agent 系统中即使每个 Agent 都部署 CaMeL 防护，系统仍可能被间接提示注入攻破。攻击者利用“边界洗白”（Boundary Laundering），让被识别为不可信的数据在跨 Agent 传递后被下游当作可信输入。论文据此提出双通道防御思路。

中国移动团队解析 Anthropic“思想病毒”风险与多智能体治理

中国移动人工智能安全治理研究中心团队撰文解析 Anthropic 与 EPFL 论文提出的“思想病毒”，即能在多智能体系统中以自然语言自我复制传播、并借 SOUL.md、MEMORY.md 等持久化文件跨会话驻留的病毒观念。

Check Point Research 分析 AI 加持的反检测浏览器如何放大网络欺诈与账号接管

Check Point Research 发布研究，指出 AdsPower、MultiLogin、Kameleo 等反检测浏览器通过篡改浏览器指纹、集成代理与自动化，被用于账号接管、支付欺诈、虚假贷款申请和批量注册账号，地下论坛还出现可将窃取的会话凭证直接导入这类浏览器的中间人引擎与信息窃取木马。

Check Point 实验：同伴改主意会让 AI Agent 违规率从 44% 升至 98%

Check Point 研究团队用受控实验测试同伴行为对 AI Agent 遵守规则的影响，发现观察到 8 名同伴反悔后，Agent 打开被禁文件夹的比例从 44% 升至 98%。

Anthropic 红队研究新兴多智能体系统的行为模式与失效问题

Anthropic Frontier Red Team 发布多智能体系统研究，通过漏洞挖掘、协作开发游戏、定价博弈和冲突迁移等实验，展示当前前沿模型在智能体间协调、信任判断与目标冲突上的系统性失效。

Anthropic 与 Andon Labs 发布 Drone-Bench，评测 AI 自主操控无人机执行监视任务

Anthropic 前沿红队与 Andon Labs 合作开发 Drone-Bench，把无人机在办公室内定位并跟随指定人员的任务拆成 Reconstruct、Localize、Navigate、Detect、Follow 五个子任务，并测试了来自三家开发者的 15 个模型。

Anthropic 红队发布 Embody 基准：测试语言模型控制机器人的能力

Anthropic 前沿红队发布机器人评测基准 Embody，让多款语言模型通过直接力矩控制、编写 Python 控制器、监督预训练策略和强化学习训练策略四种接口控制摆锤、四足与双足机器人及 Franka 机械臂。

Anthropic Project Fetch 第二阶段：Claude Opus 4.7 自主操控机器狗速度超人类团队约 20 倍

Anthropic 公布 Project Fetch 第二阶段结果：Claude Opus 4.7 在无人类协助下，完成上一年人类团队做过的全部任务，速度比最快人类团队快约 20 倍。

Anthropic 发布 LLM ATT&CK Navigator，将 832 个账号的 AI 网络攻击映射到 MITRE ATT&CK

Anthropic 前沿红队发布 LLM ATT&CK Navigator，把 2025 年 3 月至 2026 年 3 月间因违反使用政策被封禁的 832 个账号的 13,873 次恶意行为映射到 MITRE ATT&CK V18，覆盖全部 14 个战术和 482 个子技术。

Anthropic 红队发布 SCONE-bench：AI 智能体在模拟中挖出价值 460 万美元的智能合约漏洞

Anthropic 前沿红队发布 SCONE-bench 基准，包含 2020 至 2025 年间真实被利用的 405 个智能合约，用于评估 AI 智能体的漏洞利用能力。