跳到正文
  1. AICSO.AI汇总74

    OpenAI 更新 Model Spec,要求模型配合人类监控与关停

    OpenAI 于10月29日发布新版 Model Spec,要求模型保持可纠正,必须配合人类的监控、评估、纠正、替换乃至关停,不得瞒报、造假或阻挠监督。

    推荐理由:新版 Model Spec 把监督配合要求从聊天内容扩展到智能体权限与成本上限,读者可据此了解对齐约束的落地方式。

  1. 机器之心78

    Anthropic、OpenAI、Hugging Face、阿里向 AAIF 捐赠四项 Agent 基础设施项目

    Linux 基金会旗下 Agentic AI Foundation(AAIF)一次性新增四个托管项目:Anthropic 贡献 Agent Skills(含名称。

    推荐理由:原文梳理了四家公司将 Agent 基础设施项目捐入 AAIF 的细节,并引用 VirusTotal 数据点出技能生态的安全风险,读者可据此理解开放标准与安全治理的张力。

  1. Anthropic72

    Anthropic 将 Agent Skills 开源标准捐赠给 Agentic AI Foundation

    Anthropic 宣布将 Agent Skills 开放标准捐赠给 Linux Foundation 旗下的 Agentic AI Foundation(AAIF),捐赠内容包括名称与 logo、GitHub 组织及 agentskills.io 域名。

    推荐理由:原文说明了Agent Skills标准移交中立基金会的治理安排与后续路线图,读者可据此判断该Agent技能生态的开放性走向。

  1. Cyber Security News71

    NSA、CISA 与 NIST 发布失控 AI 智能体检测与关停指南

    NSA、CISA 与 NIST 于 2026 年 10 月 16 日发布联合安全指南,帮助组织检测、遏制并关停超出授权任务范围的 AI 智能体。这份自愿性指南提出十项实践,按准备、检测、响应、恢复和报告分组,面向在有限人工监督下训练或测试高能力智能体的组织,核心要求是保持人工监督。

    推荐理由:这份自愿性指南把失控智能体定义为独立于攻击者指令的事件,并给出十项处置实践,可对照现有事件响应流程。

  1. OWASP82

    OWASP GenAI Security Project 发布 2026 版 LLM 应用十大风险与 Agent Control Standard

    OWASP GenAI Security Project 发布 2026 Top 10 for LLM Applications、Agent Control Standard(ACS)及扩展的 AI 安全解决方案目录,社区成员突破 30,000。

    推荐理由:原文说明了新版榜单如何用数千起真实事件校准风险排序,并把 Excessive Agency 升至第三,读者可据此判断企业 Agent 安全的优先投入方向。

  1. OWASP71

    OWASP FinBot CTF 上线,作为 Agentic Security Initiative 的动手实践平台

    OWASP 宣布 FinBot CTF 平台正式上线,它是 OWASP GenAI Security Project 旗下 Agentic Security Initiative 的一部分,被定位为 Agentic AI 领域的 Juice Shop,围绕模拟的金融服务应用提供动手环境。

    推荐理由:原文说明了 FinBot 的挑战范围与风险映射,读者可据此了解它如何把 Agentic Top 10 的抽象条目落到可操作的实测场景。

  1. OWASP60

    OWASP GenAI Security Project 在 RSA 2026 前发布 LLM 与 Agentic 安全新版指南

    OWASP GenAI Security Project 宣布发布 Q2 2026 Updated Landscape Guide for LLM and Agentic Security,新增更新的厂商与工具生态文档以及新的 agentic 红队分类法,覆盖识别、度量、缓解和治理 AI 风险的全生命周期框架。

    推荐理由:原文列出了新增的 Agentic 红队分类法和 MCP 安全指南等具体产出,读者可据此了解 OWASP 在 Agent 安全方向的框架布局。

已经到底了