Hack The Box Academy 推出 AI Red Teamer 学习路径
Hack The Box Academy 上线 AI Red Teamer 岗位学习路径，与 Google 合作并映射到 Google 的 Secure AI Framework。该路径包含 12 个模块、230 个小节，覆盖提示词注入、越狱、对抗机器学习、模型隐私攻击、供应链风险与部署威胁，通过平台实验环境动手完成，难度评级为 hard。课程大纲公开，学习模块需 HTB Academy 账号。
看学术
AI 安全方向的论文、会议、比赛、教程与资料，按内容形态筛选，支持搜索。
分类筛选展开收起
资料形式
共 11 条 · 更新于 07:41
AI安全推荐指数6060 AI安全推荐指数2222 HYSN Technologies（Practical DevSecOps）推出 Certified AI Security Professional 自学课程
HYSN Technologies（Practical DevSecOps）推出 Certified AI Security Professional 自学课程，聚焦 AI 供应链风险，涵盖对抗机器学习、数据投毒、模型反演与规避攻击、数据管道与模型完整性防护，并将风险映射至 MITRE ATLAS。课程包含动手实验、差分隐私与联邦学习内容，已列入 CISA NICCS 目录。
AI安全推荐指数1818 面向安全从业者的生成式 AI 学习路径
一门面向安全从业者的生成式 AI 学习路径上线，由 4 门课程组成、总时长 2 小时，讲解生成式 AI 如何变革网络安全。课程覆盖生成式 AI 在安全运营中的集成、数据隐私与安全风险，并探讨在增强安全措施与生成式 AI 固有风险之间取得平衡，以及如何将 AI 用于攻防两端的安全运营。
AI安全推荐指数2222 DNV 推出 AI Security Foundation 课程，SECO-Institute 监考并颁发 S-AISF 认证
DNV 推出面向网络安全从业者的 AI Security Foundation 两天制课程，涵盖 AI 漏洞利用、威胁向量与风险分析，以及 AI 驱动防御的设计、实施与评估，提供在线辅导或课堂培训两种形式。
AI安全推荐指数1818 Artificial Intelligence for Cybersecurity：用 AI 应对网络安全挑战
Sam Sehgal 通过课程讲授如何在做好准备与防护的前提下，将 AI 有效应用于复杂网络安全挑战。课程澄清 AI 的定义及其在网络安全中的应用，区分判别式 AI 与生成式 AI，并强调机密性、完整性、可用性三大网络安全原则，讨论现有安全缺口，探索用 AI 和机器学习增强安全措施的实践方案。
AI安全推荐指数1515 Tonex 推出 CAISML：面向 AI 安全管理与领导力的认证项目
Tonex 推出 Certified AI Security Management and Leadership (CAISML) 认证项目，面向负责 AI 安全工作的管理者与领导者，内容涵盖治理框架、政策执行以及围绕 AI 项目构建安全实践。该项目以讲师在线授课形式提供，可按需排期，并已列入 CISA NICCS 目录。
AI安全推荐指数1212 Tonex 推出 Certified Chief AI Security Officer (CCASO) 认证项目
Tonex 推出 Certified Chief AI Security Officer (CCASO) 认证项目，面向负责制定 AI 安全战略的领导者，课程涵盖风险治理、合规、AI 网络威胁与组织级安全规划。项目以讲师在线授课形式提供，并可按需安排排期，已列入 CISA NICCS 培训目录。
安全向导推荐指数5353 解析多模态大模型视觉提示词注入攻击与防御策略
文章介绍 Vision Prompt Injection 漏洞，即在具备图像处理能力的大语言模型中，恶意指令可被嵌入图像（甚至不可见）以诱导模型执行未授权操作或窃取敏感数据。文中展示了真实的视觉提示词注入攻击案例，并讨论了企业在构建多模态 LLM 应用时面临的防御挑战与潜在应对策略。
安全向导推荐指数6060 Trail of Bits 分享 PrivacyRaven 模型反演 PoC 实现细节
安全向导推荐 Trail of Bits 一篇关于 PrivacyRaven 的技术文章，介绍如何构建一个可工作的模型反演（model inversion）概念验证，包括哪些尝试未能奏效。推荐理由是该文的价值在于工程实现细节而非最终结果。
安全向导推荐指数3030 PIPE - Prompt Injection Primer for Engineers（提示词注入工程师入门指南）
Joseph Thacker 撰写的 PIPE（Prompt Injection Primer for Engineers）指南，帮助开发者理解提示词注入（Prompt Injection）的真实风险，从而构建更安全的 AI 应用与功能。该指南最后更新于 2023 年 8 月。
安全向导推荐指数5353 模型反演攻击实战教程：以 Posit AI 博客为例重建训练数据
文章给出一个模型反演攻击的完整示例，针对 Posit（原 RStudio）AI 博客的模型，从模型输出中重建训练数据，并附带可运行代码，整体更像一篇教程而非论文摘要。