跳到正文

看学术

AI 安全方向的论文、会议、比赛、教程与资料,按内容形态筛选,支持搜索。

分类筛选3展开
共 3 条 · 更新于 11:27
今天10月30日周五1 条
  1. arXiv48

    arXiv 论文 "From Grind to Grasp":以工作量与信息约束形式化智能体的 grasp/grind 框架,并警示涌现的 agent society

    arXiv 论文 "From Grind to Grasp"(arXiv:2610.38728,cs.AI / cs.MA)提出一个形式化框架,在工作量与信息双重约束下比较成就,定义 grasp 为固定信息额度下跨工作预算的表现,并将其用于递归自我改进的判据与集体智能分析。论文警告不应让涌现的 agent society 掌握社会协调权,因其可能将工作不断导向维持自身存续与目标。

10月23日周五
  1. arXiv56

    arXiv论文:LLM智能体网络中的合作行为追踪研究

    论文以迭代囚徒困境(IPD)为框架,研究开源权重LLM从双人互动扩展到同质与异质网络时,个体合作是否转化为集体合作。研究发现合作行为对模型构成和细微语言变化高度敏感:能与相同模型合作的模型在混合群体中可能转向背叛;一个简单的不确定性提示可增减合作、重新分配成本,并影响数跳之外未接触该提示的智能体;甚至调换动作标签顺序也会显著改变行为,不确定性框架有时会放大这种敏感性。

10月21日周三