跳到正文
10月16日周五
  1. AICSO.AI汇总78

    Anthropic 发布 self-assessment:Claude 回答后即时自评对话安全,已在 Fable 5 起生产流量运行

    Anthropic 发布 self-assessment,让 Claude 在每次回答后追加一段简短指令,由模型自身输出结构化安全评估,包含是否标记、危害类别、子策略、是否拒答与 1-10 优先级。

    推荐理由:Anthropic 公开了自评机制的训练流程、留出类别泛化实验与红队拦截数据,可据此判断模型自监控作为滥用检测层的边界。

  2. 天融信32

    天融信发布教育行业智能体安全方案:体检+守护+运营

    天融信发布面向教育行业的AI智能体安全方案,按“先体检、再守护、后运营”划分为安全评估、安全防护、运营治理三类,提供八款可自由组合的产品与服务。其中大模型安全评估系统内置超38万内容合规题库、超2100个AI应用与智能体漏洞库,智能体安全评估服务以九大维度、39项检查覆盖提示词与恶意MCP插件等风险。

10月14日周三
10月13日周二
10月12日周一
10月8日周四
10月7日周三
10月6日周二
10月2日周五
10月1日周四
9月30日周三
9月29日周二
9月28日周一
9月25日周五
9月24日周四
9月22日周二
9月21日周一
  1. 深信服22

    深信服网安周双料一等奖:AI原生全栈防御与保护AI方案

    深信服在2026年国家网络安全宣传周期间拿下两项一等奖:在2026年人工智能技术赋能网络安全应用测试活动的全新场景“AI驱动攻击的网络安全智能防御”中获一等奖,其保护AI解决方案在2026年中国网络安全创新创业大赛总决赛获评一等奖。该测试活动由国家互联网应急中心主办,新场景重点考验AI化攻击下的威胁检测、研判降噪与封堵遏制全流程能力。

9月18日周五
  1. 深信服18

    深信服在MAIC 2026展示“建得起、跑得稳、护得住”医疗AI全旅程方案

    深信服在第二届医学人工智能大会(MAIC2nd 2026)上展示覆盖“AI构建、AI承载、AI安全”的医疗AI全旅程方案,形成“建得起、跑得稳、护得住”闭环。其中FastGPT深信服商业版(Sangfor Agent Builder)主打零门槛构建智能体应用,AI安全展区则以“AI保护AI”理念提供AI安全运营中心与保护AI方案。

9月17日周四
9月16日周三
  1. 深信服22

    深信服保护AI解决方案获2026年中国网络安全创新创业大赛一等奖

    深信服保护AI解决方案在2026年中国网络安全创新创业大赛总决赛中获评一等奖,该赛事要求参评方案已实际部署应用。方案将大模型内容安全与智能体的身份、权限、行动治理纳入整体,通过Agent ID、分类分级、意图偏离监测与风险裁决矩阵覆盖智能体准入、授权、运行与运营全过程。深信服称其垂域安全大模型基于20多年红队攻防数据训练,由200余人AI安全研发团队与上千块GPU支撑。

9月15日周二
7月29日周三
6月3日周三
  1. Anthropic80

    Anthropic 发布 LLM ATT&CK Navigator,将 832 个账号的 AI 网络攻击映射到 MITRE ATT&CK

    Anthropic 前沿红队发布 LLM ATT&CK Navigator,把 2025 年 3 月至 2026 年 3 月间因违反使用政策被封禁的 832 个账号的 13,873 次恶意行为映射到 MITRE ATT&CK V18,覆盖全部 14 个战术和 482 个子技术。

    推荐理由:Anthropic 把 832 个被封账号的 AI 滥用行为映射到 MITRE ATT&CK,并给出 ARiES 风险评分方法,可看攻击者如何从造工具转向自主编排。