Zwony/RedAgent
Enterprise-grade automated AI Agent Red Teaming & Security Auditing platform targeting OWASP Top 10 for LLMs.
看开源
AI 安全相关的开源项目、工具与仓库动态，按内容类型筛选，支持搜索。
分类筛选1展开收起
找到 11 个
Python · NOASSERTION新★ 15
Batchfile新★ 91 buryusu/All-AI-Jailbreaks
面向 AI 模型鲁棒性研究、红队演练和防御评估的越狱与提示注入实验精选归档。
#C03 AI红队测试研究 / 基准adversarial-promptsai-robustnessai-safetyjailbreak-researchllm-securitymodel-evaluationJupyter Notebook · MIT新★ 19 zakky8/llm-jailbreak-taxonomy
基于机制的 40 种 LLM 越狱模式分类，涵盖 10 个类别。针对 2026 年 6 月前沿模型（Claude Opus 4-8、GPT-5.5、Gemini 3.5、DeepSeek V4）的 8000 次试验自举评估。每条引用均经直接 WebFetch 验证；被驳斥的说法也有记录。
#C03 AI红队测试研究 / 基准adversarial-attacksadversarial-mladversarial-testingai-red-teamingai-safetyai-security
Python · Apache-2.0新★ 19 humane-intelligence/hi-oss-ai-red-teaming
用于对 AI 模型和系统开展以人为中心的红队评估的平台
Python · MIT新★ 22 cyb3rmik3/prompt-injection-email-samples
用于检验邮件安全控制和 AI 邮箱助手如何处理间接提示注入的 .eml 邮件开放测试集。它将三种意图（系统提示词泄露、数据外泄、工具发现）与三种投递方式（明文、隐藏 HTML、Base64）交叉组合，并附带一个良性对照。所有内容均为虚构且不可路由。
#C03 AI红队测试研究 / 基准ai-securityemail-securityemail-security-testingmicrosoft-defender-for-office-365microsoft-securityprompt-injection
CC-BY-4.0新★ 11 fevziegeyurtsevenler/LLM-Security-Turkiye
土耳其语 AI 安全的开源框架：指南系列、实战学院、研究与实验、23+ 工具和 20 个 Hugging Face 数据集 + 模型。
HTML · MIT新★ 96 ZeroDayEvil/CVE-2026-41096-PoC
CVE-2026-41096（Windows DNSAPI.dll 堆溢出 / DNS-Mayhem 深度分析与审计模块）的官方 AI 安全工具模块。
Python · Apache-2.0新★ 129 SantanderAI/autoguardrails
面向 LLM 护栏的对齐研究脚手架（autoresearch 风格）：在单一 policy.md 表面上进行搜索
GitHub新★ 157 requie/LLMSecurityGuide
保护大语言模型（LLM）的综合参考，涵盖 OWASP GenAI Top-10 风险、提示注入、对抗性攻击、真实事件和实用防御，并收录红队工具、防护栏和缓解策略目录，帮助开发者、研究人员和安全团队负责任地部署 AI
#C03 AI红队测试研究 / 基准ai-safetyai-securityai-security-toolgenerative-ai-securitygenerative-ai-security-assurancellm-security
Python · MIT新★ 17 KazKozDev/system-prompt-benchmark
面向 LLM 安全的自动化红队测试工具，评估系统提示词对提示注入、越狱和数据外泄攻击的抵御能力。
TypeScript · MIT新★ 16 Arnoldlarry15/ARES-Dashboard
AI 红队运营控制台