安全paper·· 3 天前推荐指数67
Value Probes 论文:用目标模型激活的线性探针改进束搜索红队审计
Value Probes: Learned Value Functions for Beam-Search Red Teaming
AI 导读
arXiv:2610.38526(Jonathan F. Jao、Andrew Kyle Lampinen)将自动化 LLM 红队审计建模为以对话历史为状态、judge 分数为奖励的 MDP,提出用束搜索替代纯 auditor 探索对话分支,并训练 "Value Probes"——目标模型激活上的线性探针预测折扣未来审计奖励作为启发式。
来源:安全paper · aisecurity.ninja