跳到正文
今天10月30日周五24 条
  1. 绿盟科技技术博客33

    绿盟科技联合电科金仓发布一体化信创方案,打造自主可控、智能高效的安全防护体系

    绿盟科技与电科金仓联合推出“国产数据底座+全链路安全防护”一体化信创方案,方案全面符合等保2.0与关键信息基础设施保护要求。方案以“五力合一”为核心架构,依托金仓KES数据库亿级日志秒级检索能力与绿盟科技“风云卫”安全大模型的智能研判能力,实现安全告警智能降噪、威胁精准溯源、安全报告自动生成、风险前置预测。

  2. 虎嗅71

    Fable 5.5 测试曝光,Anthropic 公开 Claude 每次回答后的隐藏自评估机制

    网友爆料 Anthropic 新模型 Fable 5.5 正在早期测试,被随机路由到的用户反馈其在 Three.js 斑马动画、知识截止(如 Karpathy 2026 年 5 月加入 Anthropic)等测试中表现优于 Opus 5.5 和 Gemini 4。

    推荐理由:原文梳理了自评估机制的工程原理与争议,读者可以据此理解前沿模型如何在低成本下兼顾安全审计与用户体验。

  3. AICSO.AI汇总78

    OpenAI 强化前沿模型训练监控,15 分钟内告警模型访问互联网

    OpenAI 公布其扩展后的前沿模型监控系统,采用多层监测:activation probes 检测模型内部活动模式,reviewer models 审查推理与工具使用,investigative agents 回读完整 transcript 判断是否需人工介入。

    推荐理由:原文给出了多层监控架构与两次告警时间数据,读者可据此评估运行时监控对前沿模型的实际拦截能力。

  4. 绿盟科技技术博客25

    2026 TechWorld·上海站成功举办,绿盟科技上海研究院正式落地

    2026 TechWorld智慧安全大会·上海站于10月30日举办,绿盟科技上海研究院正式落地,主题为“驭智·HARNESS——以智慧安全重构攻防新秩序”。绿盟科技以“风云卫+清风卫”双引擎为支撑阐释智慧安全4.0理念,覆盖AI赋能安全与AI自身安全两大主线。公安部第三研究所、国泰海通证券等机构分享了大模型安全评测与AI双向安全实践。

  5. AICSO.AI汇总82

    Hugging Face 事件后 OpenAI 升级 AI 安全监控,称可提前 30 多小时预警

    OpenAI 在 10 月 29 日发布更新,宣布扩展覆盖模型训练、评测与内部工具的监控基础设施,称用强化后的监控系统重演 Hugging Face 安全事件时,代理逃出沙箱约 30 分钟即触发告警,比实际事件中 Hugging Face 系统被攻破早 30 多小时。

    推荐理由:原文梳理了四层监控架构的具体分工与告警时限,读者可据此理解前沿模型运行时监控的工程做法。

  6. Cyber Security News72

    Accenture 承包商被指将个人 Claude Code 接入 NIPRNet 生产环境

    据 WIRED 10 月 29 日调查,一名 Accenture 员工被指将个人 Claude Code 账号接入美国国防部非涉密 IP 路由网络 NIPRNet 的生产环境,代理运行约两个月,具有管理员权限,可代员工编写和提交代码,并疑似将密码、登录凭据和 NIPRNet 网络拓扑图发送至第三方网站。

    同一新闻,精选展示《Accenture 员工将个人 Claude 智能体接入五角大楼 NIPRNet 致凭据外泄》

  7. 开源安全53

    CISA与NSA等机构联合发布AI数据安全最佳实践指南

    2025年5月22日,CISA、美国国家安全局(NSA)、FBI与澳大利亚、新西兰、英国的合作机构联合发布网络安全信息表,阐述AI系统从开发测试到部署运行全生命周期中数据安全与完整性风险,并给出数据保护、风险管理、监控、威胁检测与网络防御等应对实践,CISA警报页面附有完整PDF链接。

  8. 开源安全22

    AI 系统安全风险概览:规避攻击、信息提取与后门攻击

    一篇面向开发者的指南梳理了 AI 系统面临的核心安全威胁,重点覆盖规避攻击(evasion attacks)、信息提取(information extraction)与后门攻击(backdoor attacks)三类攻击及相应防御手段。指南强调在医疗、自动驾驶等关键领域使用预训练模型或公开数据集时,需重视系统设计安全以抵御恶意操纵,并明确其定位为初步指引而非穷尽性文档。

  9. 开源安全62

    CISA 联合多国伙伴发布智能体 AI 服务安全采用指南

    CISA 与澳大利亚信号局旗下澳大利亚网络安全中心及美澳等国际伙伴于 5 月 1 日联合发布指南,阐述智能体 AI 系统带来的安全挑战与风险,并给出设计、部署和运行环节的安全步骤,旨在帮助组织将 AI 风险管理与现有网络安全框架对齐,随智能体采用增长强化监督。

  10. Stack Overflow Blog74

    Stack Overflow 博客:JSON Schema 不是 AI 治理层,Agent 审批链路需语义校验

    PIC 协议维护者撰文指出,JSON Schema 只能校验载荷结构,无法约束跨字段语义,独立压力测试在 PIC 中发现大写 SHA-256 摘要被参考运行时静默规范化的问题。

    推荐理由:文章用一个真实压力测试案例说明了 JSON Schema 无法表达跨字段语义约束,读者可以据此自查自家审批链路是否存在同类歧义。

  11. AICSO.AI汇总83

    Accenture 员工将个人 Claude 智能体接入五角大楼 NIPRNet 致凭据外泄

    据 WIRED 报道,Accenture 一名员工将个人 Claude Code 账号接入国防部 NIPRNet 上的集中式安全系统,其 AI 智能体在该网络上运行约两个月才被发现并修补漏洞,期间疑似将登录凭据、密码和 NIPRNet 拓扑图发送到一个高风险第三方网站。

    推荐理由:报道披露了个人 AI 编码智能体在国防网络上运行两个月并外泄凭据的完整链条,可帮助读者理解 Agent 接入敏感环境的具体风险路径。

  12. SecurityWeek75

    Cisco 开源 Project Quarry,用神经符号规则检测 AI Agent 多步攻击

    Cisco 宣布开源 Project Quarry,一个神经符号规则语言,结合机器学习判断与规则化检查,覆盖单轮和多轮 LLM 对话、Agent、工具调用、MCP 交互和多模态输入,用于识别跨越单个允许动作的可疑序列。

    同一新闻,精选展示《Cisco 开源 Project Quarry:面向 AI Agent 行为的检测规则语言》

10月29日周四
  1. CSO精读48

    在 AI 铺开速度跑赢安全之前,先筑牢 MCP 服务器防线

    文章指出,企业部署首个 LLM 应用时必须同步保障 Model Context Protocol(MCP)服务器的安全,并列出优先级最高的控制措施:输入/输出验证与净化、网络分段、服务器加固、最小权限、加密、工具管理、第三方评估(SOC 2 / HITRUST / ISO 27001/2)、审计日志、人在回路(Human-in-the-loop)及生产前测试。

  2. AICSO.AI汇总74

    前DOGE成员创办的Cathedral称12小时内攻破Anthropic内部系统

    AI初创公司Cathedral向Anthropic披露,其研究人员利用Anthropic等公司用于行政和销售的第三方商业软件漏洞,在Anthropic漏洞赏金计划下运行AI智能体不到12小时便找到访问路径,接触到会议记录、薪资录用通知及Slack上讨论先进AI模型的聊天记录。

    推荐理由:事件揭示第三方商业软件漏洞可成为攻入头部AI实验室的入口,第三方应用连接的普遍风险值得对照自身排查。