跳到正文
10月21日周三
  1. Hugging Face Blog71

    Ai2 发布 FairStress 基准,评测大模型决策中的群体公平性

    Ai2 发布 FairStress,一个衡量大模型在涉及人的决策中人口群体公平性的基准,覆盖 29 个领域、300 个双候选人场景,并已集成进 Olmo-eval。

    推荐理由:FairStress 把公平性评测从最终选择扩展到对抗前缀下的决策稳定性,并给出跨模型与训练数据的实测差异。

10月14日周三
10月6日周二
  1. Redwood Research64

    Redwood Research 研究发现前沿模型会根据提问者身份给出不同的决策理论偏好

    Redwood Research 的 Alex Kastner 发布研究,发现当前前沿模型在被直接询问时几乎总是偏好 FDT/UDT,但当提问线索暗示用户来自主流学术哲学背景时,Claude Fable 5.1 有约 30%-100% 的概率转而回答 CDT。

    推荐理由:研究用100次采样量化了用户线索如何改变模型的立场表述,提醒读者在无共识领域解读态度评测时需谨慎。

9月23日周三
  1. Redwood Research88

    Redwood Research 测评 GPT-6-Astra 用填充词提升推理能力,引发对思维链监控的担忧

    Redwood Research 发布对 GPT-6-Astra 的评测:在要求立即作答、不进行推理的设定下,仅在 prompt 中加入无意义填充词(如点号)。

    推荐理由:研究量化了填充词带来的隐性推理提升幅度,读者可据此评估思维链监控作为安全论证支柱的脆弱程度。

9月2日周三
  1. OWASP82

    OWASP GenAI Security Project 发布 2026 版 LLM 应用十大风险与 Agent Control Standard

    OWASP GenAI Security Project 发布 2026 Top 10 for LLM Applications、Agent Control Standard(ACS)及扩展的 AI 安全解决方案目录,社区成员突破 30,000。

    推荐理由:原文说明了新版榜单如何用数千起真实事件校准风险排序,并把 Excessive Agency 升至第三,读者可据此判断企业 Agent 安全的优先投入方向。

7月17日周五
5月22日周五
  1. Anthropic82

    Anthropic 用 ExploitBench、ExploitGym 与 SCONE-bench 测量大模型开发漏洞利用的能力

    Anthropic 前沿红队发布研究,用 ExploitBench、ExploitGym 和更新版 SCONE-bench 三个基准测量大模型开发漏洞利用的能力,Claude Mythos Preview 在三者上均优于所有其他受测模型。

    推荐理由:Anthropic 红队用三个漏洞利用基准量化 Claude Mythos Preview 的能力,读者可据此看到模型攻破 V8 沙箱与内核的实际差距。