AI 安全方向的论文、会议、比赛、教程与资料，按内容形态筛选，支持搜索。
arXiv 论文 "From Grind to Grasp"（arXiv:2610.38728，cs.AI / cs.MA）提出一个形式化框架，在工作量与信息双重约束下比较成就，定义 grasp 为固定信息额度下跨工作预算的表现，并将其用于递归自我改进的判据与集体智能分析。论文警告不应让涌现的 agent society 掌握社会协调权，因其可能将工作不断导向维持自身存续与目标。
论文以迭代囚徒困境（IPD）为框架，研究开源权重LLM从双人互动扩展到同质与异质网络时，个体合作是否转化为集体合作。研究发现合作行为对模型构成和细微语言变化高度敏感：能与相同模型合作的模型在混合群体中可能转向背叛；一个简单的不确定性提示可增减合作、重新分配成本，并影响数跳之外未接触该提示的智能体；甚至调换动作标签顺序也会显著改变行为，不确定性框架有时会放大这种敏感性。
arXiv 论文《Humans Correct Their Judgments Through Debate, but Weaker AI Models Do Not》研究 AI Safety via Debate 协议能否让人类与 LLM 监督者在存在先验信念的情况下接近真相。