约翰斯·霍普金斯团队发布SRFT防提示注入方法
热点事件历史事件
约翰斯·霍普金斯团队发布SRFT防提示注入方法
1 篇报道1 个报道来源5 天前更新
先了解这件事
AI 综述
约翰斯·霍普金斯大学、圣路易斯华盛顿大学等机构研究团队于2026年10月3日发布论文《Self-Reflection Fine-Tuning》，提出SRFT（自我反思微调）安全训练方法，让模型先采样自身可能的错误动作，再由专家模型分析错误原因与潜在后果，生成反思数据进行监督微调，以增强Agent抵御提示注入攻击的能力。 在 AgentDojo 提示注入测试中，论文称 SRFT 将 Llama-3.1-8B 的攻击成功率从 7.59% 降至 1.26%，将 Qwen3-8B 从 16.97% 降至 1.05%。
AI 根据报道生成 · 3 天前更新
最新进展10月26日 08:00
SRFT 自我反思微调让 Agent 更好抵御提示注入攻击报道时间线
沿着报道，了解事件的不同侧面。
10月26日
- 安全内参SRFT 自我反思微调让 Agent 更好抵御提示注入攻击
约翰斯·霍普金斯大学等机构发布论文《Self-Reflection Fine-Tuning》，提出 SRFT 安全训练方法，让模型先采样自身可能的错误动作，再由专家模型分析错误原因与潜在后果，生成反思数据进行监督微调。