看开源

ZeroDayEvil/ai-security-tool

免费开源、AI 驱动的安全终端与漏洞扫描器（CVE、SBOM）。支持 SSH、SFTP、RDP、VNC、串口，以及 12+ 个自主 AI agent（DeepSeek、OpenAI），用于自动化安全工作流、CTF 和 DevSecOps，跨平台并带 Web UI。

microsoft/AI-Red-Teaming-Playground-Labs

AI 红队演练场实验室，用于开展包含基础设施在内的 AI 红队培训。

Yeti-791/Awesome-Offensive-AI-Agentic-Landscape

本文档汇集了 AI 渗透测试、LLM 红队、自主攻击代理和漏洞发现领域的开源项目、学术论文、能力基准及商业解决方案（国际与中国），旨在帮助研究人员、安全工程师和企业决策者快速形成全局认识。

AISecurityConsortium/AIGoat

AIGoat——开源 AI 安全演练场，用于动手进行 LLM 红队测试。通过本地运行的实战攻击实验、CTF 挑战和渐进式防御，探索提示注入、RAG 投毒、AI 智能体、MCP 安全和 OWASP Top 10 for LLM Applications

FLIAZ/SpiritScout

灵枢（SpiritScout）｜基于 LLM 的多智能体安全测试系统，通过动态任务规划与专项智能体协作，支持 SRC 漏洞挖掘、CTF 解题与自动化渗透测试。An LLM-powered multi-agent security testing system for vulnerability research, CTF solving, and penetration testing, with dynamic task planning and parallel collaboration.

0x4D31/airt

AIRT——免费开源的 AI 红队课程，包含 8 个模块和动手 Docker 实验。使用 Perplexity Computer 构建。

ivolake/awesome-ai-security-tg

Curated list of Telegram channels and chats on AI Security, AI/MLSecOps, LLM Security

scadastrangelove/awesome-ai-security-tools

精选的 AI 安全与 AI 辅助网络安全公开来源、研究和商业工具列表——涵盖自动分诊、智能体安全、AI/ML 供应链、渗透测试智能体、AI SAST、LLM 驱动的模糊测试、威胁情报、SOC/SIEM 分诊、逆向工程、LLM 红队测试等

Arcanum-Sec/ai-sec-resources

AI 安全资源中心

Tcotl/DVLAA

DVLAA（Damn Vulnerable LLM and Agent Application）是一个本地 LLM 与 Agent 安全靶场，用于 OWASP LLM Top 10 和 Agent 安全培训。

ottosulin/awesome-ai-security

AI 安全相关资源的精选合集

Masriyan/Claude-Code-CyberSecurity-Skill

22 个面向网络安全从业者的生产级 Claude Code Skills，涵盖攻击性安全、防御运营、逆向工程、威胁狩猎、威胁情报、紫队/对手模拟、CSOC 自动化、AI/LLM 安全、移动安全、OT/ICS、GRC、软件供应链安全等。

Mr-Infect/AI-penetration-testing

由 Mr-Infect 打造的 AI/ML/LLM 渗透测试工具集——GitHub 上 AI 安全、红队和对抗性机器学习技术的首选资源。该仓库专注于针对前沿 AI、机器学习（ML）和大语言模型（如 ChatGPT、Claude、LLaMA）的攻防安全。

orcasecurity-research/AIGoat

AIGoat：一个故意存在漏洞的 AI 基础设施。通过解决挑战来学习 AI 安全。

SagarBiswas-MultiHAT/The-BlackHAT-roadmap

完整的黑客与渗透测试路线图，从入门到精英。44,982 行、150+ 张图表，覆盖 OPSEC、Web 安全、Active Directory、二进制漏洞利用、EDR 规避和 0-day 研究。包含 300+ 工具、200+ MITRE 技术、C 与 Rust payload、实验指南、书籍、课程、博客、练习平台和 AI 安全资源。

anmolksachan/AI-ML-Free-Resources-for-Security-and-Prompt-Injection

面向初学者的 AI/ML 渗透测试路线图

regaan/basilisk

Basilisk——开源 AI 红队框架，支持遗传式提示词进化。面向 GPT-4、Claude、Grok、Gemini 的自动化 LLM 安全测试，覆盖 OWASP LLM Top 10，包含 32 个攻击模块。

brinhosa/awesome-ai-security

AI 安全、LLM 安全和提示注入工具与资源的精选合集

dwarvesf/claude-guardrails

Claude Code 的加固安全配置：权限拒绝规则、shell 钩子和提示注入防御，提供完整版和精简版。

CyberSunil/LLMVault

一个故意留有漏洞的 OWASP LLM Top 10 训练平台，用于 AI 安全、提示注入、RAG 安全、agent 安全和 GenAI 渗透测试。

ProjectRecon/awesome-ai-agents-security

AI 智能体安全生态的实时全景图

Joe-B-Security/awesome-prompt-injection

了解一种专门针对机器学习模型的漏洞类型

Justinuse1/pojia-breaker

Chinese-first LLM jailbreak benchmark & red-team toolkit | 中文LLM安全评测框架 | by POJIA.AI

mcp-security-project/awesome-agentic-mcp-security

精选的 Agentic MCP 安全资源列表

dhammon/ai-goat

通过一系列存在漏洞的 LLM CTF 挑战学习 AI 安全，无需注册、无云费用，全部在本地运行

ppradyoth/prompt-injection-ctf

Free prompt injection CTF: 16 LLM security missions plus a 30-mission Agentic Security Lab (OWASP Agentic Top 10), defender mode, optional live-model grading. No signup.

EvanThomasLuke/Awesome-AI-Security-Skills

AI 安全技能列表

Threekiii/Awesome-AI-Redteam

一个 AI 攻防知识库。A knowledge base for AI security.

gatsby-sec/llm-sec-range

🛡️ 大模型攻防渗透测试靶场 · 提示注入CTF / OWASP LLM Top10 / 脆弱Agent / 资料聚合。目标模型可切换：DeepSeek直连、OpenRouter中转站(国产+国外十余款小模型)、本地Ollama(DeepSeek-R1 8B离线)。一键本地部署。

airtasystems/DVAIA-Damn-Vulnerable-AI-Application

Damn Vulnerable AI Application——用于 LLM 红队训练，涵盖 LLM 测试、RAG 测试、多模态测试、Agent 测试和 LLM payload 生成。

ZeroDayEvil/CVE-2026-75604-PoC

🛡 Official AI Security Tool module for CVE-2026-75604 (Next.js Windows Unauthenticated Remote Code Execution) with safe in-app execution, deep vulnerability validation, and DevSecOps-ready security auditing workflows.

user1342/Awesome-LLM-Red-Teaming

精选的 LLM 红队测试培训、资源和工具列表。

ZeroDayEvil/CVE-2026-20817

🛡️ Official AI Security Tool module for CVE-2026-20817 (Windows Error Reporting WER ALPC Local Privilege Escalation PoC).

gmh5225/awesome-ai-security

面向渗透测试人员、漏洞赏金猎人和安全研究员的 AI 安全资料与资源精选列表。

EvanThomasLuke/Awesome-AI-Security-Benchmarks

AI 安全基准列表

fevziegeyurtsevenler/awesome-ai-security-tr

土耳其语 AI 安全资源——提示注入、越狱、红队测试、护栏、代理/MCP 与 RAG 安全。每条资源旁附土耳其语说明解释收录原因；失效链接由 CI 扫描。· 土耳其语 AI/LLM 安全资源列表

dreadnode/AIRTBench-Code

AIRTBench 的代码仓库：衡量语言模型自主 AI 红队能力

HumanCompatibleAI/tensor-trust

一个提示注入游戏，用于收集数据以开展稳健的机器学习研究

schwartz1375/genai-security-training

DmitrL-dev/AISecurity

开源 AI 安全实验室：英俄双语学院、公开的 Rust 防御、研究与本地输入评估。通过 Spectorn 体验实时防护

pasquini-dario/project_mantis

Project Mantis：反向攻击 AI 黑客；将提示注入作为抵御 LLM 驱动网络攻击的防御手段

Panda1847/ai-security-lab

高级 AI/LLM 安全测试框架。包含 50 多种越狱技术、提示注入工具，以及面向 GPT-4、Claude、Gemini 等的自动化漏洞扫描器。

ErdemOzgen/RedAiRange

专业的 AI 安全靶场，用于红队、漏洞研究、防御验证和 AI/ML 安全实操培训。

xaoLiu1222/cc-bos

CC-BOS：文言文 + 仿生优化搜索用于 LLM 越狱（arXiv:2602.22983）。

wearetyomsmnv/Awesome-LLM-agent-Security

关于 LLM Agent 安全、攻击、漏洞以及如何将其用于网络安全的全部内容。

sonuoffsec/AI-Security-Hub

综合性 AI 安全中心，汇集载荷、速查表、动手实验、安全工具、MCP 安全、RAG 安全、智能体安全、CTF 挑战和研究资源

smartdevil09/AI-Security-Professional-Roadmap

hi-unc1e/Auto_JB_APE

引擎就一条回路：侦察 → 规划 → 提交 → 判定 → 变异。纯标准库，零框架依赖。内置裁判打 S/A/B/C，canary 或正则命中才算赢，没坐实的不提交。334 个测试离线全绿。CLI、Python API、MCP。One loop: recon → plan → submit → judge → mutate. Pure stdlib, no framework. The judge grades S/A/B/C — canary/regex hits are wins, unconfirmed never submit. 334 offline tests. CLI, Python API, MCP. Works good on HTB AI Red Teamer labs.

PawelKozy/mcp-breach-to-fix-labs

动手实践的 MCP 安全实验：用存在漏洞与安全加固的 MCP 服务器复现 10 个真实事件，附带 pytest 回归测试，以及在 Claude/Cursor 上实战验证过的漏洞利用演练。

OWASP/www-project-promptme

PromptMe 是一个教学项目，展示大语言模型（LLM）及其 Web 集成中的安全漏洞，包含 10 个受 OWASP LLM Top 10 启发的动手挑战，演示这些漏洞在真实场景中如何被发现和利用

aligorithm/Zero-Health

零信任。零安全。完全暴露。一个故意存在漏洞的健康科技平台，配有 AI 聊天机器人，用于学习应用安全和道德黑客。它包含 OWASP Top 10 Web、API 和 AI/LLM 安全漏洞中的漏洞。漏洞极多，切勿用于生产环境。

R3dShad0w7/PromptMe

PromptMe 是一个教育项目，展示大语言模型及其 Web 集成中的安全漏洞，包含 10 个受 OWASP LLM Top 10 启发的动手挑战，演示这些漏洞在真实场景中如何被发现和利用。

securelayer7/PROMPTPurify

面向 LLM 应用的提示注入防护栏，紧凑模型性能超过更大的开源防护模型，不依赖正则和特征签名，演示地址：anton.securelayer7.net

anpa1200/AI-PT-Lab

故意留有漏洞的 AI 安全训练靶场，面向 LLM agent，演示 OWASP LLM Top 10 2025：RAG 注入、工具滥用、记忆投毒、供应链攻击、数据外泄等

aira-security/Vulnerable-AI-Chatbot

一个故意留有漏洞的 AI 聊天机器人，用于学习和练习 AI 安全

TrustAI-laboratory/LLM-Security-CTF

通过一系列存在漏洞的 LLM CTF 挑战学习 LLM/AI 安全，无需注册、全部免费，一切都在网站上

randalltr/prompt-engineering-for-hackers

面向黑客的提示工程：LLM、越狱与对抗性提示入门实践

shlomihod/awesome-ai-red-teaming

精选的 AI 红队测试资源与工具列表。

r00tb3/RAG-Poisoning-Lab

RAG 投毒实验——教学用 AI 安全练习。

aivillage/llm_verification

通过 CTFd 为黑客 CTF 提供 LLM 提示攻击