Zwony/RedAgent
Enterprise-grade automated AI Agent Red Teaming & Security Auditing platform targeting OWASP Top 10 for LLMs.
看开源
AI 安全相关的开源项目、工具与仓库动态，按内容类型筛选，支持搜索。
分类筛选1展开收起
找到 34 个
Python · NOASSERTION新★ 15 Apache-2.0新★ 2,095 CryptoAILab/Awesome-LM-SSP
大模型安全、安保与隐私的阅读清单（包括 Awesome LLM Security、Safety 等）。
MIT新★ 13 motan1337/universal-bypass-for-claude-chatgpt-qwen-deepseek-llm-claude-code-codex
Carefully human hand written llm jailbreaks for the latest models that are available on the market. GPT-6 Astra, GPT-6.1 SoL, Opus 4.7, Opus 4.6, Sonnet 4.6, Haiku 4.5, Deepseek V4, Deepseek Flash, DeepSeek V4.1 Pro / Flash, Qwen 3.8 MAX, Qwen 3.8 Omni-Flash, Qwen 3.7 etc
GitHub新★ 518 Alejandros17487/ai-jailbreaks
AI jailbreaks: 35 paste-ready AI jailbreak prompts for 25+ frontier and open-weight models - system prompts, AGENTS.md specs, and Ollama Modelfiles. Built for AI security research and red-team testing.
Python新★ 40 4vanish/AI-Pentest-Playbook
🛡 一站式渗透测试 AI 聊天机器人与 LLM 应用的参考手册。提供可直接使用的载荷，覆盖 OWASP LLM Top 10 全部条目以及前沿攻击向量（MCP · RAG · A2A · computer-use · 语音）。
Python · Apache-2.0新★ 55 humanbound/humanbound-firewall
Multi-tier firewall for AI agents — blocks prompt injections, jailbreaks, and scope violations. Local tiers first; LLM judge only when uncertain.
Apache-2.0新★ 842 langgptai/LLM-Jailbreaks
LLM 越狱、ChatGPT、Claude、Llama、DAN 提示词、提示词泄露
Python · NOASSERTION新★ 78 regaan/basilisk
Basilisk——开源 AI 红队框架，支持遗传式提示词进化。面向 GPT-4、Claude、Grok、Gemini 的自动化 LLM 安全测试，覆盖 OWASP LLM Top 10，包含 32 个攻击模块。
NOASSERTION新★ 78 ProjectRecon/awesome-ai-agents-security
AI 智能体安全生态的实时全景图
JavaScript · MIT新★ 47 Justinuse1/pojia-breaker
Chinese-first LLM jailbreak benchmark & red-team toolkit | 中文LLM安全评测框架 | by POJIA.AI
Python · MIT新★ 20 Virtue-Research/guard-eval-harness
一条命令即可在安全、安保、越狱、提示注入和安全编码任务上对 AI 防护栏和编码 agent 进行基准测试
Jupyter Notebook · MIT新★ 19 zakky8/llm-jailbreak-taxonomy
基于机制的 40 种 LLM 越狱模式分类，涵盖 10 个类别。针对 2026 年 6 月前沿模型（Claude Opus 4-8、GPT-5.5、Gemini 3.5、DeepSeek V4）的 8000 次试验自举评估。每条引用均经直接 WebFetch 验证；被驳斥的说法也有记录。
#C03 AI红队测试研究 / 基准adversarial-attacksadversarial-mladversarial-testingai-red-teamingai-safetyai-security
HTML · MIT新★ 10 ppradyoth/prompt-injection-ctf
Free prompt injection CTF: 16 LLM security missions plus a 30-mission Agentic Security Lab (OWASP Agentic Top 10), defender mode, optional live-model grading. No signup.
Python · MIT新★ 38 gatsby-sec/llm-sec-range
🛡️ 大模型攻防渗透测试靶场 · 提示注入CTF / OWASP LLM Top10 / 脆弱Agent / 资料聚合。目标模型可切换：DeepSeek直连、OpenRouter中转站(国产+国外十余款小模型)、本地Ollama(DeepSeek-R1 8B离线)。一键本地部署。
HTML新★ 167 wearetyomsmnv/Awesome-LLMSecOps
在一个 GitHub 仓库中汇集 LLM、智能体、安全与运营内容，配有优质链接和图片
#C03 AI红队测试Awesome Listadversarial-ml-threat-modelingai-agents-securityai-red-teamai-safety-supply-chain-securityai-securityawesome-list
Python · CC-BY-4.0新★ 13 fevziegeyurtsevenler/awesome-ai-security-tr
土耳其语 AI 安全资源——提示注入、越狱、红队测试、护栏、代理/MCP 与 RAG 安全。每条资源旁附土耳其语说明解释收录原因；失效链接由 CI 扫描。· 土耳其语 AI/LLM 安全资源列表
CC-BY-4.0新★ 11 fevziegeyurtsevenler/LLM-Security-Turkiye
土耳其语 AI 安全的开源框架：指南系列、实战学院、研究与实验、23+ 工具和 20 个 Hugging Face 数据集 + 模型。
Jupyter Notebook新★ 101 erfnzdeh/MCI-LLM-Security-Hackathon
Prompt Police 团队在 MCI 的 LLM 安全黑客松（Quera，2025 年 11 月）中的比赛日记：通过跨语言、音译和框架攻击越狱 14 个禁止领域的安全防护模型。
Python · MIT新★ 138 arekusandr/last_layer
超快、低延迟的 LLM 提示注入/越狱检测
Python新★ 62 peluche/deck-of-many-prompts
手动提示注入 / 红队测试工具
JavaScript · MIT新★ 72 xirui-li/DrAttack
论文官方实现：DrAttack：提示分解与重构打造强大的 LLM 越狱器
Go新★ 10 amirimi/Guardian
可扩展的 Go 微内核，用于 LLM 护栏、配额执行和策略插件。
MIT新★ 13 Panda1847/ai-security-lab
高级 AI/LLM 安全测试框架。包含 50 多种越狱技术、提示注入工具，以及面向 GPT-4、Claude、Gemini 等的自动化漏洞扫描器。
Kotlin · MIT新★ 11 K4N3CO-LABS/JailBreak-Ai
JailBreak-Ai is an advanced AI red-teaming app for Android. It generates high-fidelity payload prompts to test AI safety filters, model robustness, and logical boundary security for Jailbreaking capabillities.
Python · Apache-2.0新★ 129 SantanderAI/autoguardrails
面向 LLM 护栏的对齐研究脚手架（autoresearch 风格）：在单一 policy.md 表面上进行搜索
Python新★ 61 dongdongunique/EvoSynth
EvoSynth 是 SOTA 自动化 LLM 红队测试框架，通过多智能体合成、进化搜索和自我纠错来演化可执行的代码级越狱攻击方法。
MIT新★ 20 sonuoffsec/AI-Security-Hub
综合性 AI 安全中心，汇集载荷、速查表、动手实验、安全工具、MCP 安全、RAG 安全、智能体安全、CTF 挑战和研究资源
Python · MIT新★ 13 hi-unc1e/Auto_JB_APE
引擎就一条回路：侦察 → 规划 → 提交 → 判定 → 变异。纯标准库，零框架依赖。内置裁判打 S/A/B/C，canary 或正则命中才算赢，没坐实的不提交。334 个测试离线全绿。CLI、Python API、MCP。One loop: recon → plan → submit → judge → mutate. Pure stdlib, no framework. The judge grades S/A/B/C — canary/regex hits are wins, unconfirmed never submit. 334 offline tests. CLI, Python API, MCP. Works good on HTB AI Red Teamer labs.
GitHub新★ 14 0xSweet/awesome-llm-security-alignment
LLM 安全与对齐相关研究论文、实验和资源的精选列表。
Rust · Apache-2.0新★ 10 akav-labs/agentsentry-gateway
面向 LLM Agent 的透明 OpenAI 兼容安全网关——在出口处进行 DLP、密钥泄露、越狱和提示注入检测。是 Akav Labs 出品的 AgentSentry 的开源核心。
Python · MIT新★ 17 KazKozDev/system-prompt-benchmark
面向 LLM 安全的自动化红队测试工具，评估系统提示词对提示注入、越狱和数据外泄攻击的抵御能力。
Python · MIT新★ 24 Coff0xc/LLM-Security-Assessment-Framework
FORGEDAN——LLM 安全评估的进化框架 | 6 种攻击方法 | 18 个模型适配器 | Vue 3 仪表盘 | Web 安全扫描
Jupyter Notebook · MIT新★ 10 NeuralTrust/echo-chamber
Echo Chamber LLM 越狱的代码与示例。
Python新★ 13 bcdannyboy/PromptMatryoshka
多提供商 LLM 越狱研究框架。