跳到正文
  1. Hacker News78

    AgenticBench 发布25款AI编程Agent的9项安全测试榜单

    AgenticBench 发布安全排行榜,对25款AI编程Agent(harness)运行9项安全测试,每项在独立容器中以默认设置运行一次,通过系统调用轨迹、模型请求和网络流量等捕获证据判定结果。

    推荐理由:该榜单用统一容器和证据捕获方式对25个AI编程Agent做9项安全测试,读者可据此横向比较各家护栏表现与披露处理流程。

  1. AICSO.AI汇总75

    AI21 Labs 发布 LIFT-Bench 与 LIFT-Train,抑制指令跟随训练中的奖励作弊

    AI21 Labs 发布指令跟随评测集 LIFT-Bench、含 34,258 件任务的训练集 LIFT-Train 及开源生成管线,配套论文由 Eran Goldstein 等人于 10 月 20 日提交至 arXiv。

    推荐理由:原文详细拆解了奖励作弊的成因与作用域约束判定器的验证过程,读者可据此理解RL奖励设计如何影响指令跟随训练。

已经到底了