跳到正文
只看安全工程#Anthropic
  1. 虎嗅71

    Fable 5.5 测试曝光，Anthropic 公开 Claude 每次回答后的隐藏自评估机制

    网友爆料 Anthropic 新模型 Fable 5.5 正在早期测试，被随机路由到的用户反馈其在 Three.js 斑马动画、知识截止（如 Karpathy 2026 年 5 月加入 Anthropic）等测试中表现优于 Opus 5.5 和 Gemini 4。

    推荐理由：原文梳理了自评估机制的工程原理与争议，读者可以据此理解前沿模型如何在低成本下兼顾安全审计与用户体验。

  1. AICSO.AI汇总78

    Anthropic 发布 self-assessment：Claude 回答后即时自评对话安全，已在 Fable 5 起生产流量运行

    Anthropic 发布 self-assessment，让 Claude 在每次回答后追加一段简短指令，由模型自身输出结构化安全评估，包含是否标记、危害类别、子策略、是否拒答与 1-10 优先级。

    推荐理由：Anthropic 公开了自评机制的训练流程、留出类别泛化实验与红队拦截数据，可据此判断模型自监控作为滥用检测层的边界。

已经到底了