MemOS 团队开源记忆原生大模型 MemT 1.0,把经验沉淀进模型本体
MemOS 团队发布并开源记忆原生大模型 MemT 1.0,包含 Nano(36B 总参数、每次激活 3B,底座 Qwen3.6-35B-A3B)与 Flash(288B,底座二次后训练的 DeepSeek-V4-Flash)两个尺寸,权重已上架 Hugging Face。
MemOS 团队发布并开源记忆原生大模型 MemT 1.0,包含 Nano(36B 总参数、每次激活 3B,底座 Qwen3.6-35B-A3B)与 Flash(288B,底座二次后训练的 DeepSeek-V4-Flash)两个尺寸,权重已上架 Hugging Face。
瑞士圣加仑大学等机构研究人员发表论文《AgentSpy: Making AI Agent Behavior Observable》(https://arxiv.org/pdf/2610.06001),提出在独立运行环境中通过auditd、laurel、Zeek和基于eBPF的Falco监测Agent及其子进程的系统调用与网络活动,不依赖Agent自身提供的执行轨迹。
推荐理由:论文用系统级监测补足执行轨迹盲区,实验数据具体展示了通过全部测试的Agent仍可能存在的隐藏行为问题。
Amazon 团队在 NeurIPS 2026 发表论文 SpanUQ,提出 Span-Level Uncertainty Estimation(SLUE)新任务,将大模型不确定性估计从 Token 或整段序列粒度推进到语义片段粒度。
evhub 在 AI 对齐论坛发文,回应 Redwood 的可监控性政策提案及其反提案,阐述自己对 monitorability 的整体思考,并声明内容仅代表个人而非 Anthropic 官方立场。
推荐理由:原文给出了可监控性的四类划分及各自的评测参照,读者可据此理解现有对齐审计与监控评测的覆盖边界。
METR 对 Anthropic《Risk Report: August 2026》中“高风险场景下的失准”一节做了外部审查,认同其结论即截至 2026 年 7 月 15 日所覆盖模型(含 Mythos 5 与内部模型 Model 2)的灾难性失准风险为低,但认为这主要源于模型能力有限,而非安全护栏与对齐训练。
推荐理由:METR 对 Anthropic 风险报告的第三方审查,指出其监控评测与生产监控脱节,并给出可复用的红队建议。
OpenAI 在 g-mean² 之外提出两项补充指标,用于衡量模型可监控性。配对监控性指标只在两个模型共同支持的实例上比较,避免能力差异导致的实例选择偏差;部署后风险指标把监控器当作拒绝门,模拟最多 K 次重试后系统仍输出坏结果的概率。作者用七模型合成实验验证配对指标能恢复已知排序,并在 7 个 agent 模型的历史 system card 数据上比较三种指标的一致性,建议三者同时报告。
哥伦比亚大学 Yan 与 Hewitt 的论文指出,奖励设定偏差本身就会让思维链(CoT)难以监控,并提出从模型获得奖励的轨迹中推断奖励偏好、在训练中把该描述间歇注入一半轨迹的方法。