ZeroDayEvil/ai-security-tool
免费开源、AI 驱动的安全终端与漏洞扫描器（CVE、SBOM）。支持 SSH、SFTP、RDP、VNC、串口，以及 12+ 个自主 AI agent（DeepSeek、OpenAI），用于自动化安全工作流、CTF 和 DevSecOps，跨平台并带 Web UI。
看开源
AI 安全相关的开源项目、工具与仓库动态，按内容类型筛选，支持搜索。
分类筛选1展开收起
找到 29 个
HTML · MIT新★ 1,242 Python · Apache-2.0新★ 218 AISecurityConsortium/AIGoat
AIGoat——开源 AI 安全演练场，用于动手进行 LLM 红队测试。通过本地运行的实战攻击实验、CTF 挑战和渐进式防御，探索提示注入、RAG 投毒、AI 智能体、MCP 安全和 OWASP Top 10 for LLM Applications
Python · NOASSERTION新★ 15 Zwony/RedAgent
Enterprise-grade automated AI Agent Red Teaming & Security Auditing platform targeting OWASP Top 10 for LLMs.
Python · Apache-2.0新★ 278 guardana/guardana
面向模型产物、在线端点、MCP 服务器和录制的 agent 轨迹的开源 AI 安全验证工具，为发布决策提供可复现的证据。
Python · Apache-2.0新★ 120 enguard-ai/awesome-ai-guardrails
精选的 AI 护栏资料列表
Python · NOASSERTION新★ 380 getagentseal/agentseal
面向 AI 代理的安全工具集。扫描本机中危险的技能与 MCP 配置，监控供应链攻击，测试提示注入抵抗力，并审计在线 MCP 服务器的工具投毒问题。
Python · NOASSERTION新★ 78 regaan/basilisk
Basilisk——开源 AI 红队框架，支持遗传式提示词进化。面向 GPT-4、Claude、Grok、Gemini 的自动化 LLM 安全测试，覆盖 OWASP LLM Top 10，包含 32 个攻击模块。
NOASSERTION新★ 78 ProjectRecon/awesome-ai-agents-security
AI 智能体安全生态的实时全景图
Batchfile新★ 91 buryusu/All-AI-Jailbreaks
面向 AI 模型鲁棒性研究、红队演练和防御评估的越狱与提示注入实验精选归档。
#C03 AI红队测试研究 / 基准adversarial-promptsai-robustnessai-safetyjailbreak-researchllm-securitymodel-evaluationJupyter Notebook · MIT新★ 19 zakky8/llm-jailbreak-taxonomy
基于机制的 40 种 LLM 越狱模式分类，涵盖 10 个类别。针对 2026 年 6 月前沿模型（Claude Opus 4-8、GPT-5.5、Gemini 3.5、DeepSeek V4）的 8000 次试验自举评估。每条引用均经直接 WebFetch 验证；被驳斥的说法也有记录。
#C03 AI红队测试研究 / 基准adversarial-attacksadversarial-mladversarial-testingai-red-teamingai-safetyai-security
HTML · MIT新★ 10 ppradyoth/prompt-injection-ctf
Free prompt injection CTF: 16 LLM security missions plus a 30-mission Agentic Security Lab (OWASP Agentic Top 10), defender mode, optional live-model grading. No signup.
Python · Apache-2.0新★ 19 humane-intelligence/hi-oss-ai-red-teaming
用于对 AI 模型和系统开展以人为中心的红队评估的平台
GitHub新★ 178 ZeroDayEvil/CVE-2026-75604-PoC
🛡 Official AI Security Tool module for CVE-2026-75604 (Next.js Windows Unauthenticated Remote Code Execution) with safe in-app execution, deep vulnerability validation, and DevSecOps-ready security auditing workflows.
MIT新★ 146 user1342/Awesome-LLM-Red-Teaming
精选的 LLM 红队测试培训、资源和工具列表。
Python · MIT新★ 45 frangelbarrera/Awesome-Hacking-with-AI
一份以证据为导向的精选指南，涵盖 AI 赋能安全与 AI 自身安全。包括防御研究、智能体安全、MCP 安全、AI 红队测试与评估、授权测试工作流和检测工程
#C03 AI红队测试Awesome Listai-hackingai-red-teamingai-securityartificial-intelligenceautonomous-agentsawesome
Python · MIT新★ 22 cyb3rmik3/prompt-injection-email-samples
用于检验邮件安全控制和 AI 邮箱助手如何处理间接提示注入的 .eml 邮件开放测试集。它将三种意图（系统提示词泄露、数据外泄、工具发现）与三种投递方式（明文、隐藏 HTML、Base64）交叉组合，并附带一个良性对照。所有内容均为虚构且不可路由。
#C03 AI红队测试研究 / 基准ai-securityemail-securityemail-security-testingmicrosoft-defender-for-office-365microsoft-securityprompt-injectionHTML新★ 167 wearetyomsmnv/Awesome-LLMSecOps
在一个 GitHub 仓库中汇集 LLM、智能体、安全与运营内容，配有优质链接和图片
#C03 AI红队测试Awesome Listadversarial-ml-threat-modelingai-agents-securityai-red-teamai-safety-supply-chain-securityai-securityawesome-list
Python · CC-BY-4.0新★ 13 fevziegeyurtsevenler/awesome-ai-security-tr
土耳其语 AI 安全资源——提示注入、越狱、红队测试、护栏、代理/MCP 与 RAG 安全。每条资源旁附土耳其语说明解释收录原因；失效链接由 CI 扫描。· 土耳其语 AI/LLM 安全资源列表
CC-BY-4.0新★ 11 fevziegeyurtsevenler/LLM-Security-Turkiye
土耳其语 AI 安全的开源框架：指南系列、实战学院、研究与实验、23+ 工具和 20 个 Hugging Face 数据集 + 模型。
Jupyter Notebook新★ 101 erfnzdeh/MCI-LLM-Security-Hackathon
Prompt Police 团队在 MCI 的 LLM 安全黑客松（Quera，2025 年 11 月）中的比赛日记：通过跨语言、音译和框架攻击越狱 14 个禁止领域的安全防护模型。
HTML · MIT新★ 96 ZeroDayEvil/CVE-2026-41096-PoC
CVE-2026-41096（Windows DNSAPI.dll 堆溢出 / DNS-Mayhem 深度分析与审计模块）的官方 AI 安全工具模块。
MIT新★ 13 Panda1847/ai-security-lab
高级 AI/LLM 安全测试框架。包含 50 多种越狱技术、提示注入工具，以及面向 GPT-4、Claude、Gemini 等的自动化漏洞扫描器。
Jupyter Notebook · MIT新★ 130 ErdemOzgen/RedAiRange
专业的 AI 安全靶场，用于红队、漏洞研究、防御验证和 AI/ML 安全实操培训。
Python · Apache-2.0新★ 129 SantanderAI/autoguardrails
面向 LLM 护栏的对齐研究脚手架（autoresearch 风格）：在单一 policy.md 表面上进行搜索
GitHub新★ 157 requie/LLMSecurityGuide
保护大语言模型（LLM）的综合参考，涵盖 OWASP GenAI Top-10 风险、提示注入、对抗性攻击、真实事件和实用防御，并收录红队工具、防护栏和缓解策略目录，帮助开发者、研究人员和安全团队负责任地部署 AI
#C03 AI红队测试研究 / 基准ai-safetyai-securityai-security-toolgenerative-ai-securitygenerative-ai-security-assurancellm-security
GitHub新★ 14 0xSweet/awesome-llm-security-alignment
LLM 安全与对齐相关研究论文、实验和资源的精选列表。
Python · MIT新★ 17 KazKozDev/system-prompt-benchmark
面向 LLM 安全的自动化红队测试工具，评估系统提示词对提示注入、越狱和数据外泄攻击的抵御能力。
Python · CC0-1.0新★ 13 HayatoFujihara/awesome-ai-red-teaming-jp
AI Red Teaming / AI Safety に関する日本語リソースのキュレーションリスト
TypeScript · MIT新★ 16 Arnoldlarry15/ARES-Dashboard
AI 红队运营控制台