requie/AI-Red-Teaming-Guide
AI 系统对抗测试与安全评估的综合指南，帮助组织在攻击者利用之前发现漏洞。
看开源
AI 安全相关的开源项目、工具与仓库动态，按内容类型筛选，支持搜索。
分类筛选1展开收起
找到 20 个
GitHub新★ 1,013 TypeScript · MIT新★ 2,112 microsoft/AI-Red-Teaming-Playground-Labs
AI 红队演练场实验室，用于开展包含基础设施在内的 AI 红队培训。
MIT新★ 406 Yeti-791/Awesome-Offensive-AI-Agentic-Landscape
本文档汇集了 AI 渗透测试、LLM 红队、自主攻击代理和漏洞发现领域的开源项目、学术论文、能力基准及商业解决方案（国际与中国），旨在帮助研究人员、安全工程师和企业决策者快速形成全局认识。
Python · Apache-2.0新★ 7,209 Tencent/AI-Infra-Guard
全栈 AI 红队测试平台，通过 Agent Scan、Skills Scan、MCP scan、AI Infra scan 和 LLM 越狱评估来保障 AI 生态安全
Python · Apache-2.0新★ 278 guardana/guardana
面向模型产物、在线端点、MCP 服务器和录制的 agent 轨迹的开源 AI 安全验证工具，为发布决策提供可复现的证据。
Python · GPL-3.0新★ 1,163 ASCIT31/Dark-Moon
开源自主 AI 渗透测试工具。50 个专家 agent 覆盖 Web、API、云、Active Directory、Kubernetes、CI/CD 和 AI/LLM（OWASP LLM Top 10）。在 Privacy Gateway 后运行本地 LLM，并与 GitHub、GitLab、Jenkins、VS Code、JetBrains、n8n、Grafana 和 Splunk 集成。
#C03 AI红队测试研究 / 基准active-directoryai-penetration-testingai-red-teamai-red-teamingai-securityai-security-toolTypeScript · Apache-2.0新★ 34 preambleai/prompt-injector
AI 安全与提示注入载荷工具集
Python · NOASSERTION新★ 67 NuGuardAI/nuguard
AI 红队工具与 LLM 安全框架，用于评估 Agentic AI 应用。测试提示注入、执行漏洞评估、生成 SBOM 并进行静态分析。
#C03 AI红队测试工具 / 框架adversarial-machine-learningagentic-aiai-agentsai-red-team-toolai-red-teamingai-securityPython · NOASSERTION新★ 78 regaan/basilisk
Basilisk——开源 AI 红队框架，支持遗传式提示词进化。面向 GPT-4、Claude、Grok、Gemini 的自动化 LLM 安全测试，覆盖 OWASP LLM Top 10，包含 32 个攻击模块。
GitHub新★ 46 beyefendi/awesome-llm-security
精选的 LLM 安全工具、研究与文档
Jupyter Notebook · MIT新★ 19 zakky8/llm-jailbreak-taxonomy
基于机制的 40 种 LLM 越狱模式分类，涵盖 10 个类别。针对 2026 年 6 月前沿模型（Claude Opus 4-8、GPT-5.5、Gemini 3.5、DeepSeek V4）的 8000 次试验自举评估。每条引用均经直接 WebFetch 验证；被驳斥的说法也有记录。
#C03 AI红队测试研究 / 基准adversarial-attacksadversarial-mladversarial-testingai-red-teamingai-safetyai-securityAstro · MIT新★ 482 RiccardoBiosas/awesome-MLSecOps
精选的 MLSecOps 工具与资源列表，用于保护机器学习和 AI 系统——涵盖对抗性 ML 防御、LLM 安全、AI 红队测试、模型扫描、供应链防护和 MLOps 流水线安全
#C03 AI红队测试Awesome Listadversarial-machine-learningagentic-securityai-agentsai-governanceai-red-teamingai-security
Python · Apache-2.0新★ 19 humane-intelligence/hi-oss-ai-red-teaming
用于对 AI 模型和系统开展以人为中心的红队评估的平台
GitHub新★ 61 SnailSploit/The-LLM-Red-Teamer-s-Playbook
绕过 LLM 防御层（从输入过滤到持久内存利用）的诊断方法。
Python · MIT新★ 45 frangelbarrera/Awesome-Hacking-with-AI
一份以证据为导向的精选指南，涵盖 AI 赋能安全与 AI 自身安全。包括防御研究、智能体安全、MCP 安全、AI 红队测试与评估、授权测试工作流和检测工程
#C03 AI红队测试Awesome Listai-hackingai-red-teamingai-securityartificial-intelligenceautonomous-agentsawesome
Python新★ 29 weidutech/pi-recon
轻量级 AI 红队测试框架，用于授权的智能体/GenAI 挑战（BCTF Agent Plus 风格）：调度、有界侦察、验证、摘要。
Python · Apache-2.0新★ 10 emarco177/agent-security
AI 代理安全实践资源：在部署到云端的 LangChain IT 服务台代理上演示 OWASP GenAI 的攻击、修复与验证。
MIT新★ 20 sonuoffsec/AI-Security-Hub
综合性 AI 安全中心，汇集载荷、速查表、动手实验、安全工具、MCP 安全、RAG 安全、智能体安全、CTF 挑战和研究资源
GPL-3.0新★ 21 AI-Security-Research-Group/LLM-Attacks
AI 安全漏洞、LLM 对抗攻击、提示注入技术和机器学习安全研究的综合分类体系。涵盖 71 种以上攻击向量，包括模型投毒、agentic AI 漏洞利用和隐私泄露。
Python · CC0-1.0新★ 13 HayatoFujihara/awesome-ai-red-teaming-jp
AI Red Teaming / AI Safety に関する日本語リソースのキュレーションリスト