Zwony/RedAgent
Enterprise-grade automated AI Agent Red Teaming & Security Auditing platform targeting OWASP Top 10 for LLMs.
看开源
AI 安全相关的开源项目、工具与仓库动态，按内容类型筛选，支持搜索。
分类筛选1展开收起
找到 13 个
Python · NOASSERTION新★ 15 Python新★ 40 4vanish/AI-Pentest-Playbook
🛡 一站式渗透测试 AI 聊天机器人与 LLM 应用的参考手册。提供可直接使用的载荷，覆盖 OWASP LLM Top 10 全部条目以及前沿攻击向量（MCP · RAG · A2A · computer-use · 语音）。
Python · MIT新★ 20 Virtue-Research/guard-eval-harness
一条命令即可在安全、安保、越狱、提示注入和安全编码任务上对 AI 防护栏和编码 agent 进行基准测试
Jupyter Notebook · MIT新★ 19 zakky8/llm-jailbreak-taxonomy
基于机制的 40 种 LLM 越狱模式分类，涵盖 10 个类别。针对 2026 年 6 月前沿模型（Claude Opus 4-8、GPT-5.5、Gemini 3.5、DeepSeek V4）的 8000 次试验自举评估。每条引用均经直接 WebFetch 验证；被驳斥的说法也有记录。
#C03 AI红队测试研究 / 基准adversarial-attacksadversarial-mladversarial-testingai-red-teamingai-safetyai-security
CC-BY-4.0新★ 11 fevziegeyurtsevenler/LLM-Security-Turkiye
土耳其语 AI 安全的开源框架：指南系列、实战学院、研究与实验、23+ 工具和 20 个 Hugging Face 数据集 + 模型。
Python · MIT新★ 138 arekusandr/last_layer
超快、低延迟的 LLM 提示注入/越狱检测
JavaScript · MIT新★ 72 xirui-li/DrAttack
论文官方实现：DrAttack：提示分解与重构打造强大的 LLM 越狱器
Python · Apache-2.0新★ 129 SantanderAI/autoguardrails
面向 LLM 护栏的对齐研究脚手架（autoresearch 风格）：在单一 policy.md 表面上进行搜索
Python新★ 61 dongdongunique/EvoSynth
EvoSynth 是 SOTA 自动化 LLM 红队测试框架，通过多智能体合成、进化搜索和自我纠错来演化可执行的代码级越狱攻击方法。
Python · MIT新★ 17 KazKozDev/system-prompt-benchmark
面向 LLM 安全的自动化红队测试工具，评估系统提示词对提示注入、越狱和数据外泄攻击的抵御能力。
Python · MIT新★ 24 Coff0xc/LLM-Security-Assessment-Framework
FORGEDAN——LLM 安全评估的进化框架 | 6 种攻击方法 | 18 个模型适配器 | Vue 3 仪表盘 | Web 安全扫描
Jupyter Notebook · MIT新★ 10 NeuralTrust/echo-chamber
Echo Chamber LLM 越狱的代码与示例。
Python新★ 13 bcdannyboy/PromptMatryoshka
多提供商 LLM 越狱研究框架。