Hacker News· dannyobrien·· 4 小时前推荐指数22
AI 安全问题本质是社会工程问题：用能力安全模型修复提示词注入
AI Security Issues Are Social Engineering Issues
AI 导读
前 EFF 技术专家指出，提示词注入是 LLM 引入的新一类安全弱点，本质是把针对人类的社会工程手法搬到硅基系统上，攻击者可用共情操纵、伪装来源、逐步扩大信任等套路诱使模型执行输入中的指令。
来源：Hacker News · oblomovka.com