Zwony/RedAgent
Enterprise-grade automated AI Agent Red Teaming & Security Auditing platform targeting OWASP Top 10 for LLMs.
看开源
AI 安全相关的开源项目、工具与仓库动态，按内容类型筛选，支持搜索。
分类筛选1展开收起
找到 42 个
Python · NOASSERTION新★ 15 Python · MIT新★ 31 emmanuelgjr/genai_incidents
生成式 AI 与 Agentic AI 安全事件的单一事实来源，映射到 OWASP LLM Top 10、OWASP Agentic Top 10（ASI）、NIST AI RMF 和 MITRE ATLAS。
Python · Apache-2.0新★ 7,209 Tencent/AI-Infra-Guard
全栈 AI 红队测试平台，通过 Agent Scan、Skills Scan、MCP scan、AI Infra scan 和 LLM 越狱评估来保障 AI 生态安全
Python · Apache-2.0新★ 278 guardana/guardana
面向模型产物、在线端点、MCP 服务器和录制的 agent 轨迹的开源 AI 安全验证工具，为发布决策提供可复现的证据。
Python · Apache-2.0新★ 468 PrismorSec/prismor
面向 AI 代理的自托管运行时控制平面。在恶意工具调用执行前进行观察、人工审批或阻断：密钥泄露、提示注入、供应链等，均在本地仪表盘中处理。与代理无关（Claude、codex、langchain 等）。
Rust · Apache-2.0新★ 11 sundarsub/execwall
OpenClaw 执行防火墙——Seccomp 锁定的 AI agent 沙箱，具备策略强制执行的命令治理、WhatsApp/Telegram 集成和 Python 隔离，可部署在 Oracle Cloud 免费层。
GitHub新★ 518 Alejandros17487/ai-jailbreaks
AI jailbreaks: 35 paste-ready AI jailbreak prompts for 25+ frontier and open-weight models - system prompts, AGENTS.md specs, and Ollama Modelfiles. Built for AI security research and red-team testing.
TypeScript · NOASSERTION新★ 14 ryanfren/AgentCloak
面向 AI 代理的安全邮件代理——通过 MCP 实现内容过滤、PII 脱敏和提示注入检测
Shell · MIT新★ 40 dwarvesf/claude-guardrails
Claude Code 的加固安全配置：权限拒绝规则、shell 钩子和提示注入防御，提供完整版和精简版。
Python · MIT新★ 527 agencyenterprise/PromptInject
PromptInject 是一个以模块化方式组装提示词的框架，用于定量分析 LLM 对对抗性提示攻击的鲁棒性。🏆 获 NeurIPS ML Safety Workshop 2022 最佳论文奖
MIT新★ 47 CollieAi/llm-firewall
AI 防火墙与 LLM 安全工具包——保护 AI 应用免受提示注入、越狱、PII 泄露和对抗性攻击
JavaScript · MIT新★ 47 Justinuse1/pojia-breaker
Chinese-first LLM jailbreak benchmark & red-team toolkit | 中文LLM安全评测框架 | by POJIA.AI
Jupyter Notebook · MIT新★ 110 TaroYamada08/Hacker
This repository is maintained by Taro and includes thousands of resources related to ethical hacking, bug bounties, digital forensics and incident response (DFIR), AI security, vulnerability research, exploit development, reverse engineering, and more. 🔥 Also check: https://hackertraining.org
Batchfile新★ 91 buryusu/All-AI-Jailbreaks
面向 AI 模型鲁棒性研究、红队演练和防御评估的越狱与提示注入实验精选归档。
#C03 AI红队测试研究 / 基准adversarial-promptsai-robustnessai-safetyjailbreak-researchllm-securitymodel-evaluationPython · MIT新★ 20 Virtue-Research/guard-eval-harness
一条命令即可在安全、安保、越狱、提示注入和安全编码任务上对 AI 防护栏和编码 agent 进行基准测试
Jupyter Notebook · MIT新★ 19 zakky8/llm-jailbreak-taxonomy
基于机制的 40 种 LLM 越狱模式分类，涵盖 10 个类别。针对 2026 年 6 月前沿模型（Claude Opus 4-8、GPT-5.5、Gemini 3.5、DeepSeek V4）的 8000 次试验自举评估。每条引用均经直接 WebFetch 验证；被驳斥的说法也有记录。
#C03 AI红队测试研究 / 基准adversarial-attacksadversarial-mladversarial-testingai-red-teamingai-safetyai-security
HTML · MIT新★ 10 ppradyoth/prompt-injection-ctf
Free prompt injection CTF: 16 LLM security missions plus a 30-mission Agentic Security Lab (OWASP Agentic Top 10), defender mode, optional live-model grading. No signup.
Python · Apache-2.0新★ 19 humane-intelligence/hi-oss-ai-red-teaming
用于对 AI 模型和系统开展以人为中心的红队评估的平台
GitHub新★ 61 SnailSploit/The-LLM-Red-Teamer-s-Playbook
绕过 LLM 防御层（从输入过滤到持久内存利用）的诊断方法。
Python · MIT新★ 94 vstorm-co/pydantic-ai-shields
Pydantic AI 的护栏能力——成本跟踪、提示注入检测、PII 过滤、密钥脱敏、工具权限和异步护栏，基于 pydantic-ai 的原生 capabilities API 构建。
Python · NOASSERTION新★ 124 OraclesTech/guardian-sdk
Ethicore Engine® 是一个 AI 安全、伦理与合规平台。本仓库包含 Ethicore Engine™ 的开源组件 Guardian SDK，通过多层分析流水线保护 AI 应用免受提示注入、越狱、角色劫持、系统提示提取及 100 多种其他威胁类别的侵害
#C03 AI红队测试工具 / 框架adversarial-machine-learningagent-safetyagent-securityagentic-loopai-agentsai-safety
CC-BY-4.0新★ 11 fevziegeyurtsevenler/LLM-Security-Turkiye
土耳其语 AI 安全的开源框架：指南系列、实战学院、研究与实验、23+ 工具和 20 个 Hugging Face 数据集 + 模型。
Jupyter Notebook新★ 101 erfnzdeh/MCI-LLM-Security-Hackathon
Prompt Police 团队在 MCI 的 LLM 安全黑客松（Quera，2025 年 11 月）中的比赛日记：通过跨语言、音译和框架攻击越狱 14 个禁止领域的安全防护模型。
Python · MIT新★ 73 UseAI-pro/openclaw-skills-security
精选的、安全优先的 OpenClaw 技能（基于 Markdown），安全审计技能可检测提示注入、供应链攻击和凭据泄露，适用于 Codex CLI、Claude Code 及任意 LLM
Python · NOASSERTION新★ 111 DmitrL-dev/AISecurity
开源 AI 安全实验室：英俄双语学院、公开的 Rust 防御、研究与本地输入评估。通过 Spectorn 体验实时防护
JavaScript · MIT新★ 19 myProjectsRavi/sentinel-protocol
开源 AI 安全防火墙，内置 81 个引擎，支持 PII 检测、提示注入防御、MCP 安全与出站分类，本地优先、零云依赖。
Python · Apache-2.0新★ 129 SantanderAI/autoguardrails
面向 LLM 护栏的对齐研究脚手架（autoresearch 风格）：在单一 policy.md 表面上进行搜索
Python · Apache-2.0新★ 28 atliq/guardex-ai
LLM 防护栏 Python SDK，提供安全分类、PII 检测、提示注入防御和依据性检查，无需外部 API 即可在本地保护 AI 应用，支持流式输出，可即插即用地集成到任意 LLM
GitHub新★ 157 requie/LLMSecurityGuide
保护大语言模型（LLM）的综合参考，涵盖 OWASP GenAI Top-10 风险、提示注入、对抗性攻击、真实事件和实用防御，并收录红队工具、防护栏和缓解策略目录，帮助开发者、研究人员和安全团队负责任地部署 AI
#C03 AI红队测试研究 / 基准ai-safetyai-securityai-security-toolgenerative-ai-securitygenerative-ai-security-assurancellm-security
Python · MIT新★ 36 lihouwenbin/ai-redteam-recursive-self-improvement
面向递归自我改进治理的领域无关 AI 红队框架。
Python新★ 61 dongdongunique/EvoSynth
EvoSynth 是 SOTA 自动化 LLM 红队测试框架，通过多智能体合成、进化搜索和自我纠错来演化可执行的代码级越狱攻击方法。
Python · MIT新★ 18 Acacian/aegis
面向 Python 的 LLM 防护栏与提示注入检测。自动接入 LangChain、CrewAI、OpenAI、LiteLLM 等 8 个以上框架，支持 PII 掩码、毒性检测和策略 CI/CD，一行接入、无需改代码。
GitHub新★ 14 0xSweet/awesome-llm-security-alignment
LLM 安全与对齐相关研究论文、实验和资源的精选列表。
MIT新★ 12 ARUNAGIRINATHAN-K/awesome-llmsecops
✨LLM 安全运营，保障 AI 系统全生命周期的安全。
TypeScript · MIT新★ 80 securelayer7/PROMPTPurify
面向 LLM 应用的提示注入防护栏，紧凑模型性能超过更大的开源防护模型，不依赖正则和特征签名，演示地址：anton.securelayer7.net
Python · MIT新★ 17 KazKozDev/system-prompt-benchmark
面向 LLM 安全的自动化红队测试工具，评估系统提示词对提示注入、越狱和数据外泄攻击的抵御能力。
Python · CC0-1.0新★ 13 HayatoFujihara/awesome-ai-red-teaming-jp
AI Red Teaming / AI Safety に関する日本語リソースのキュレーションリスト
Python · NOASSERTION新★ 14 killertcell428/ai-guardian
面向 Python 的开源 LLM 安全库。三行代码即可保护你的 AI 应用免受提示注入、数据泄露和有害输出影响。
Python · MIT新★ 10 henio828/unveil
找出那些躲过人类却对机器说话的文字。用于扫描不可信内容中间接提示注入的防御性工具。
Python · MIT新★ 24 Coff0xc/LLM-Security-Assessment-Framework
FORGEDAN——LLM 安全评估的进化框架 | 6 种攻击方法 | 18 个模型适配器 | Vue 3 仪表盘 | Web 安全扫描
Python · Apache-2.0新★ 45 MaxMLang/pytector
易用的 LLM 提示注入检测与提示输入净化 Python 包，支持本地模型、基于 API 的防护、工具调用防护和 LangChain 防护栏
Jupyter Notebook · Apache-2.0新★ 12 dcarpintero/pangolin-guard
基于 ModernBERT 的轻量级自托管 AI 护栏模型。
#C03 AI红队测试研究 / 基准ai-safetyalternating-attentionfine-tuningflash-attentionhuggingface-transformersmodernbert