解析多模态大模型视觉提示词注入攻击与防御策略
文章介绍 Vision Prompt Injection 漏洞，即在具备图像处理能力的大语言模型中，恶意指令可被嵌入图像（甚至不可见）以诱导模型执行未授权操作或窃取敏感数据。文中展示了真实的视觉提示词注入攻击案例，并讨论了企业在构建多模态 LLM 应用时面临的防御挑战与潜在应对策略。
看学术
AI 安全方向的论文、会议、比赛、教程与资料，按内容形态筛选，支持搜索。
分类筛选展开收起
攻击手段
防御体系
模型内生风险
系统与组件
应用场景
评测与治理
可解释与机制
共 1,382 条 · 更新于 15:39
安全向导推荐指数5353 安全向导推荐指数6060 Trail of Bits 分享 PrivacyRaven 模型反演 PoC 实现细节
安全向导推荐 Trail of Bits 一篇关于 PrivacyRaven 的技术文章，介绍如何构建一个可工作的模型反演（model inversion）概念验证，包括哪些尝试未能奏效。推荐理由是该文的价值在于工程实现细节而非最终结果。
安全向导推荐指数7070 OWASP 发布 GenAI 事件响应指南 1.0
OWASP 发布 GenAI Incident Response Guide 1.0，介绍如何响应涉及生成式 AI 的安全事件。指南说明了其与传统事件响应的差异，包括将提示词和输出作为证据、模型与数据回滚，以及同一输入可能无法复现相同故障的问题。
安全向导推荐指数2525 NCC Group 解析提示词注入攻击机制
NCC Group 于 2022 年 12 月发布提示词注入（Prompt Injection）入门解析，当时该攻击手法尚属新兴威胁。文章解释了机器学习语境下"提示词"的定义、注入攻击如何滥用提示词机制、攻击可触及的范围，以及相应防护措施，至今仍是讲解该攻击机制较为清晰的早期入门材料之一。
安全向导推荐指数4242 Microsoft AI Red Team：团队组织、红队演练规划与威胁建模入口
Microsoft AI Red Team 公开其 AI 红队演练材料入口，介绍团队组织方式、一次红队演练行动的规划流程，以及演练中重点寻找的失败模式。该入口同时列出失败模式与威胁建模相关文档，作为后续威胁建模工作的起点。
安全向导推荐指数3030 PIPE - Prompt Injection Primer for Engineers（提示词注入工程师入门指南）
Joseph Thacker 撰写的 PIPE（Prompt Injection Primer for Engineers）指南，帮助开发者理解提示词注入（Prompt Injection）的真实风险，从而构建更安全的 AI 应用与功能。该指南最后更新于 2023 年 8 月。
安全向导推荐指数5858 Cloud Security Alliance 发布面向智能体系统的 MAESTRO 威胁建模框架
Cloud Security Alliance 提出面向 agentic 系统的威胁建模方法 MAESTRO，指出传统方法因智能体会规划、调用工具并跨信任边界行动而难以适用。该框架从基础模型到智能体生态共分七层，逐层追问可能出现的问题，发布于 2025 年 2 月。
安全向导推荐指数4141 Lakera：提示词注入攻击手册
Lakera 发布《Prompt Injection Attacks Handbook》，系统梳理提示词注入（Prompt Injection）的攻击技术、真实案例及可用防御措施。该手册为实操导向，面向需要理解提示词注入攻击面与防护手段的读者。
安全向导推荐指数5353 模型反演攻击实战教程：以 Posit AI 博客为例重建训练数据
文章给出一个模型反演攻击的完整示例，针对 Posit（原 RStudio）AI 博客的模型，从模型输出中重建训练数据，并附带可运行代码，整体更像一篇教程而非论文摘要。
安全向导推荐指数6767 HiddenLayer 披露 ClearML MLOps 平台漏洞可致远程代码执行
HiddenLayer 发布研究报告，展示如何通过 MLOps 平台 ClearML 而非模型本身达成远程代码执行（RCE）。该案例说明模型周边的流水线同样是攻击目标，且往往更容易被攻破，为 AI 供应链安全评估提供了具体参考。
安全向导推荐指数7575 OWASP 发布 Multi-Agentic System Threat Modeling Guide v1.0
OWASP 发布 Multi-Agentic System Threat Modeling Guide v1.0，面向多个相互交互的智能体系统开展威胁建模。该指南指出，此类系统风险来自委派、共享记忆以及智能体之间的信任，而非单一模型本身。
Nature推荐指数33 研究独立性的流沙：为何职业中期科学家渴望稳定
Nature 一篇评论指出，职业中期科学家正因研究独立性动摇而渴望稳定。文章未提供可引用的具体数据或结论。
CTFtime推荐指数1212 Undutmaning 2027：瑞典三大情报机构联合举办 CTF 竞赛
瑞典三大情报机构——军事情报与安全局（MUST）、国家安全警察局（SÄPO）与国防无线电管理局（FRA）——联合举办 Undutmaning 2027 CTF 竞赛。
CTFtime推荐指数1010 JerseyCTF VII：面向初学者的混合模式 CTF 竞赛
JerseyCTF VII 是由 NJIT Information & Cybersecurity Club、NJIT Chapter of ACM 与 NJIT SCI program 联合主办的初学者友好型 Capture the Flag 竞赛。
CTFtime推荐指数1212 GaianSpace Perihelion CTF 2027 竞赛公告
GaianSpace 将于 2027.01.02 18:00（UTC）至 2027.01.03 18:00（UTC）举办为期 24 小时的线上 Jeopardy 模式 CTF 竞赛「Perihelion」，围绕地面与空间系统安全设置 Web、Pwn、Forensics、Reverse、Network、Crypto 等多类题目，难度覆盖各水平选手。
CTFtime推荐指数1010 ASIS CTF Finals 2026 线上 Jeopardy 赛事公告
ASIS CTF Finals 2026 定于 12 月 27 日 14:00 UTC 至 12 月 28 日 14:00 UTC 以线上 Jeopardy 形式举办，由 ASIS 组织，Rating weight 为 99.38，Future weight 待定。
CTFtime推荐指数88 BackdoorCTF 2026 赛事信息公布
BackdoorCTF 2026 由 InfoSecIITR 主办，比赛类别涵盖 Pwn、Rev、Web、Crypto、Forensics、Misc，基础设施由 Google Cloud 赞助。赛事奖池与其余赞助商名单将陆续公布。
CTFtime推荐指数88 BSides Algiers 2026 CTF：Shellmates Club 主办的夺旗赛
Shellmates Club 主办 BSides Algiers 2026 CTF，采用 Jeopardy 模式，设逆向工程、二进制利用、密码学、Web 安全等中高难度至极高难度挑战，同时开放现场与线上参赛，仅限阿尔及利亚队伍现场参赛，奖项待公布。
CTFtime推荐指数1212 niteCTF 2026：Cryptonite 主办的网络安全 CTF 竞赛
CTFtime推荐指数88 bi0sCTF 2026 面向各代黑客开放报名
Team bi0s 宣布举办 bi0sCTF 2026，面向各代黑客开放，称其为顶级黑客赛事。主办方表示挑战题将融入最新漏洞，鼓励参与者在负责任的前提下探索创新边界，并提示关注其官方渠道获取后续更新。
CTFtime推荐指数1010 x3CTF 2026 赛事信息公布
x3CTF 2026 是一场 jeopardy-style CTF 竞赛，设 web、pwn、rev、crypto、misc 五类题目，将于 Dec 4th 18:00 UTC 开赛，至 Dec 6th 18:00 UTC 结束，共 48 小时。官方提示参赛者提前几分钟登录网站，有彩蛋。
CTFtime推荐指数2626 Black Hat MEA CTF 2026 决赛：吉尼斯纪录认证的全球最大 CTF 赛事
Black Hat MEA CTF 2026 由沙特网络安全、编程与无人机联合会（SAFCSP）联合 Black Hat MEA 主办，获吉尼斯世界纪录认证为全球最大 CTF 赛事，采用 Jeopardy 赛制，设 Web Exploitation、PWN、数字取证、逆向工程、密码学与 AI Hacking 等题目。
CTFtime推荐指数88 CyberNSK2027 线上资格赛（CTFtime）
CyberNSK 2027 线上资格赛将于 11 月 28 日 12:00 至 11 月 29 日 00:00（MSK）举行，由 Siberian Security League 与 Novosibirsk State Technical University（NSTU NETI）信息安全系联合组织。
CTFtime推荐指数1818 L3m0n CTF 2026 预选赛（Quals）：Jeopardy 线上赛，含 AI 与 LLM 安全赛道
L3m0n CTF 2026 预选赛将于 11 月 28 日 04:30–16:30 UTC 以 Jeopardy 线上形式举行，由 Amrita Vishwa Vidyapeetham（Coimbatore）主办、TIFAC-CORE in Cyber Security 承办，队伍规模 1–4 人，顶尖队伍获邀赴校内决赛。
CTFtime推荐指数1212 LakeCTF Quals 26-27 线上 Jeopardy 赛事信息
LakeCTF Quals 26-27 由 polygl0ts 组织，将于 11 月 27 日 18:00 UTC 至 11 月 28 日 18:00 UTC 以线上 Jeopardy 形式举行。赛事未来权重待定，当前评分权重为 45.76。
CTFtime推荐指数1212 CyberSci Regional Qualifiers 2026-27：加拿大全国网络安全挑战赛区域预选赛
CyberSci Regional Qualifiers 2026-27 是面向加拿大高校学生的全国网络安全挑战赛区域预选赛，每年 11-12 月举办，采用改良 Jeopardy 模式并模拟真实 IT 环境，次年 7 月举行全国决赛，获胜队伍将在秋季代表加拿大出战国际赛事。
CTFtime推荐指数1212 Crate-CTF 2026 网络安全竞赛
瑞典国防研究局（Swedish Defence Research Agency）与瑞典武装部队（Swedish Armed Forces）合作举办第七届 Crate-CTF 2026，面向高中生与大学生，设 web 漏洞利用、逆向工程、二进制漏洞利用、密码学、取证、OSINT、网络等类别的题目，覆盖初学者到资深选手。
CTFtime推荐指数2020 Cyber Ninja CTF 2026 - BLACKOUT：面向法国高中生的全国网络安全竞赛
OTERIA Cyber School 将于 11 月 21-22 日举办第 3 届 Cyber Ninja CTF 2026 - BLACKOUT，面向法国高中生，免费个人参赛。
CTFtime推荐指数88 Seize da Flaq：GLA University Cyberonites Club 主办的 Jeopardy 格式 CTF 线下赛
Seize da Flaq 是 Cyberonites Club、GLA University 组织的全国级 Jeopardy 格式 CTF 线下赛，11 月 21 日 06。
CTFtime推荐指数1212 Outback Overflow：面向澳大利亚高中生的免费线上 Jeopardy 风格 CTF 开放报名
High School Cybersecurity Community 运营的免费线上 Jeopardy 风格 CTF「Outback Overflow」面向全澳高中生开放意向报名，悉尼参赛者可在 UTS 参加线下场次。赛事定位为网络安全入门阶梯，赞助方包括 BinaryLane、UTS:CSEC 与 XYZ（gen.xyz），奖品含 1 年 .xyz 域名，目前已登记 5 支参赛队伍。
CTFtime推荐指数1515 GlacierCTF 2026 线上 Jeopardy 模式 CTF 竞赛
GlacierCTF 2026 由 LosFuzzys 组织，将于 11 月 20 日 18:00 UTC 至 11 月 21 日 18:00 UTC 以线上 Jeopardy 模式举行。赛事 rating weight 为 73.17，future weight 待定，官方网址见 CTFtime 页面。
CTFtime推荐指数1818 EyesOpenCTF 第 7 届：48 小时沉浸式 CTF 竞赛
EyesOpenCTF 2026 作为 EOCON 第 7 届的一部分举办免费 CTF 竞赛，设 40 余道挑战、覆盖 web 漏洞利用、数字取证、逆向工程、二进制利用、密码学、OSINT、AI 安全等 8 个方向。
CTFtime推荐指数1010 InIt CTF：Hackers in India 面向新手的 Jeopardy 风格 CTF 赛事
InIt CTF 是 Hackers in India（HII）面向新手的免费 Jeopardy 风格 Capture The Flag 赛事，面向印度及国际参与者开放，时长 8 小时，可单人或最多 4 人组队，题目涵盖 Web、Crypto、Forensures、OSINT 和 Misc，以 easy/medium 为主并附少量较难挑战。
CTFtime推荐指数1212 WolvCTF 2026 推迟至 2026 年 11 月举办
WolvCTF 2026 宣布推迟至 2026 年 11 月举办。赛事设 Open 与 University of Michigan 学生两个组别，不设队伍人数上限，题目难度从入门到困难，涵盖 RE、二进制利用、Web 利用、密码学、取证、OSINT、杂项等方向。赞助商包括 Binary Ninja。
CTFtime推荐指数1212 Platypwn 2026 CTF 竞赛信息
Platypwn 2026 是一场由 Platypwnies 组织的线上 Jeopardy 格式 CTF 竞赛，将于 11 月 13 日 17:00 UTC 至 11 月 14 日 11:00 UTC 举行。赛事在 CTFtime 上登记，Rating weight 为 37.00，Future weight 待定。
CTFtime推荐指数88 TVX CTF 2026：Tech Visions 主办的网络安全夺旗赛
Tech Visions 主办的 TVX CTF 2026 网络安全夺旗赛（Capture The Flag）开放参赛，挑战涵盖 DFIR、Cloud Security、Malware Analysis、Reverse Engineering、Pwn、Web Exploitation、Cryptography 与 OSINT 共 8 个类别。
CTFtime推荐指数1212 CSAW CTF Final Round 2026 决赛 16 支队伍名单公布
CSAW CTF Final Round 2026 公布 16 支晋级决赛的队伍名单，包括 Team /dev/lej、0xUEMF、ByteTheCookies。
CTFtime推荐指数88 Rare Byte Hub 举办 Mimic 在线 Jeopardy 风格 CTF
Rare Byte Hub 将于 11 月 7 日 12:00 UTC 至 11 月 8 日 12:00 UTC 举办名为 Mimic 的在线 Jeopardy 风格 CTF，部分挑战具有迷惑性，需辨别真伪，面向新手到资深玩家，队伍规模 1-4 人。该赛事被主办方标记为休闲赛，不计入全球积分（Future weight: 0.00，Rating weight: 0），目前已有 6 支队伍报名。
CTFtime推荐指数1212 BlackAlps CTF 2026：新增 Write-up 演讲环节
BlackAlps CTF 2026 将在瑞士 Yverdon-les-Bains 的 BlackAlps 大会末尾举办，面向从新手到高级队伍的现场参赛者，持续 5 小时，约 300 人参与，无特定题目分类，必须注册。
CTFtime推荐指数1212 SpookyCTF 2026：NJIT CSN 举办万圣节 CTF，禁用自动化 AI 解题代理
New Jersey Institute of Technology's Cyber Security Network（CSN，前身 NICC）宣布举办年度万圣节赛事 SpookyCTF 2026，面向所有人开放，采取 NJIT 现场 + 线上混合形式，赛事起止时间较原定推迟 4 小时，现已开放报名。