msoedov/agentic_security
代理式 LLM 漏洞扫描器 / AI 红队工具包
#C03 AI红队测试研究 / 基准agent-frameworkagent-securityai-red-teamllm-evaluationllm-evaluation-frameworkllm-fuzzer
看开源
AI 安全相关的开源项目、工具与仓库动态，按内容类型筛选，支持搜索。
分类筛选1展开收起
找到 46 个
Python · Apache-2.0新★ 2,033 Python · Apache-2.0新★ 9,768 NVIDIA/garak
LLM 漏洞扫描器
Python · NOASSERTION新★ 15 Zwony/RedAgent
Enterprise-grade automated AI Agent Red Teaming & Security Auditing platform targeting OWASP Top 10 for LLMs.
Python · MIT新★ 31 emmanuelgjr/genai_incidents
生成式 AI 与 Agentic AI 安全事件的单一事实来源，映射到 OWASP LLM Top 10、OWASP Agentic Top 10（ASI）、NIST AI RMF 和 MITRE ATLAS。
TypeScript · Apache-2.0新★ 697 arcjet/arcjet-js
面向 AI 应用和 agent 的运行时安全：提示注入检测、工具调用授权、敏感数据脱敏、机器人防护和限流。可直接接入你的 JS/TS 代码。
Python · Apache-2.0新★ 468 PrismorSec/prismor
面向 AI 代理的自托管运行时控制平面。在恶意工具调用执行前进行观察、人工审批或阻断：密钥泄露、提示注入、供应链等，均在本地仪表盘中处理。与代理无关（Claude、codex、langchain 等）。
TypeScript · MIT新★ 422 Agent-Threat-Rule/agent-threat-rules
面向 AI 代理安全威胁的开放检测规则标准——类似 Sigma，但针对 AI 代理。提供可执行、可测试的规则，覆盖提示注入、工具投毒、上下文窃取和 MCP 攻击。已合并进 Microsoft、Cisco、Gen Digital、MISP 和 FINOS 的开源项目。MIT 许可。
Python · GPL-3.0新★ 1,163 ASCIT31/Dark-Moon
开源自主 AI 渗透测试工具。50 个专家 agent 覆盖 Web、API、云、Active Directory、Kubernetes、CI/CD 和 AI/LLM（OWASP LLM Top 10）。在 Privacy Gateway 后运行本地 LLM，并与 GitHub、GitLab、Jenkins、VS Code、JetBrains、n8n、Grafana 和 Splunk 集成。
#C03 AI红队测试研究 / 基准active-directoryai-penetration-testingai-red-teamai-red-teamingai-securityai-security-toolPython新★ 40 4vanish/AI-Pentest-Playbook
🛡 一站式渗透测试 AI 聊天机器人与 LLM 应用的参考手册。提供可直接使用的载荷，覆盖 OWASP LLM Top 10 全部条目以及前沿攻击向量（MCP · RAG · A2A · computer-use · 语音）。
Python · Apache-2.0新★ 586 secureagentics/Adrian
开源运行时 AI 代理安全工具——实时监控和控制 AI 代理，在代理行动之前捕获恶意工具使用、提示注入和策略漂移。
Python · MIT新★ 242 HeadyZhang/agent-audit
面向 LLM 代理的静态安全扫描器——提示注入、MCP 配置审计、污点分析。51 条规则映射到 OWASP Agentic Top 10 (2026)。支持 LangChain、CrewAI、AutoGen。
Python · NOASSERTION新★ 29 volt-l18/llm-redteam-pipeline
自动化多轮 LLM 红队测试流水线，让攻击者模型对抗目标模型以评估安全边界，具备 LLM-as-a-Judge 评分和交互式 HTML 漏洞仪表盘。
Python · NOASSERTION新★ 30 GenAI-Security-Project/GenAI-Data-Security-Initiative
OWASP GenAI 数据安全计划——用于保障生成式 AI 系统数据安全的分类体系、对照映射、数据集和工具。
JavaScript · NOASSERTION新★ 14 emmanuelgjr/GenAI-Security-Crosswalk
最全面的开源 OWASP GenAI 风险到行业框架映射——70 个映射文件、25 个框架、1016 项控制、125 起事件，以及 ML 分类器流水线。来源列表包括 LLM Top 10、Agentic Top 10、DSGAI 2026、EU AI Act、NIST、ISO、SOC 2、FedRAMP、DORA、OT/ICS、MITRE ATLAS。
TypeScript · Apache-2.0新★ 129 StackOneHQ/defender
面向调用工具（通过 MCP、CLI 或直接函数调用）的 Agent 的开源提示注入防护。检测并防御提示注入攻击。22MB，仅用 CPU，延迟低于 10ms。
#C03 AI红队测试研究 / 基准ai-securityindirect-prompt-injectionllm-securitymcp-securityprompt-injectionprompt-injection-defenseRust · Apache-2.0新★ 15 Mattral/guardrail-rs
用 Rust 编写的 LLM 安全代理
Python · AGPL-3.0新★ 897 toby-bridges/api-relay-audit
针对 AI API 中转和 LLM 代理的本地安全审计：检测提示注入、模型替换、工具调用改写、SSE 异常、错误信息泄露和 Web3 钱包风险
Batchfile新★ 91 buryusu/All-AI-Jailbreaks
面向 AI 模型鲁棒性研究、红队演练和防御评估的越狱与提示注入实验精选归档。
#C03 AI红队测试研究 / 基准adversarial-promptsai-robustnessai-safetyjailbreak-researchllm-securitymodel-evaluationTypeScript · MIT新★ 48 mythos-agent/mythos-agent
AI 安全代理守护你的代码。
Go · AGPL-3.0新★ 44 yatuk/tamga
自托管的 LLM 安全代理。提供 PII 脱敏、提示注入防御，符合 KVKK/GDPR/PCI-DSS，延迟低于毫秒级。
Jupyter Notebook · MIT新★ 19 zakky8/llm-jailbreak-taxonomy
基于机制的 40 种 LLM 越狱模式分类，涵盖 10 个类别。针对 2026 年 6 月前沿模型（Claude Opus 4-8、GPT-5.5、Gemini 3.5、DeepSeek V4）的 8000 次试验自举评估。每条引用均经直接 WebFetch 验证；被驳斥的说法也有记录。
#C03 AI红队测试研究 / 基准adversarial-attacksadversarial-mladversarial-testingai-red-teamingai-safetyai-securityApache-2.0新★ 33 TrustAI-laboratory/LMAP
LMAP（large language model mapper）相当于面向 LLM 的 NMAP，是 LLM 漏洞扫描器和零日漏洞模糊测试工具。
Shell · MIT新★ 41 bridge-mind/BridgeWard
不信任任何东西，安全交付。——面向 AI 代理的怀疑式阅读与提示注入防御技能。来源标记、红旗模式、拒绝模板以及只读注入审计器。MIT。
Python · Apache-2.0新★ 267 ReversecLabs/spikee
用于评估和利用的简易提示注入工具包
Go · Apache-2.0新★ 131 SleuthCo/clawshield-public
面向 AI 代理的安全代理。扫描每条消息中的提示注入、PII 和密钥。纵深防御：Go 代理 + iptables 防火墙 + eBPF 内核监控。YAML 策略引擎、审计日志、5 个带 RAG 知识库的 AI 代理。
Jupyter Notebook · MIT新★ 67 sinanw/llm-security-prompt-injection
该项目通过对一组输入提示进行二分类来研究大语言模型的安全性，以发现恶意提示。已使用经典机器学习算法、预训练 LLM 模型和微调 LLM 模型分析多种方法。
CC-BY-SA-4.0新★ 59 OWASP/www-project-llm-verification-standard
OWASP LLM 安全验证标准
Python · Apache-2.0新★ 509 deadbits/vigil-llm
检测提示注入、越狱及其他潜在风险的 LLM 输入。
#C01 算法与数据安全研究 / 基准adversarial-attacksadversarial-machine-learninglarge-language-modelsllm-securityllmopsprompt-injectionPython新★ 29 weidutech/pi-recon
轻量级 AI 红队测试框架，用于授权的智能体/GenAI 挑战（BCTF Agent Plus 风格）：调度、有界侦察、验证、摘要。
Python · MIT新★ 75 DaoyuanLi2816/RepoGuardBench
对本地编码智能体面临的仓库来源提示注入攻击及轻量防御进行基准测试。DL4C @ ICML 2026。
Python · GPL-3.0新★ 30 genia-dev/vibraniumdome
LLM 安全平台
CC-BY-4.0新★ 11 fevziegeyurtsevenler/LLM-Security-Turkiye
土耳其语 AI 安全的开源框架：指南系列、实战学院、研究与实验、23+ 工具和 20 个 Hugging Face 数据集 + 模型。
Python · MIT新★ 138 arekusandr/last_layer
超快、低延迟的 LLM 提示注入/越狱检测
TypeScript · Apache-2.0新★ 28 doronp/agentshield-benchmark
AI 代理安全工具的开源基准——提示注入、数据外泄、工具滥用、来源追踪
Go · MIT新★ 15 mdombrov-33/go-promptguard
面向 Go 应用的 LLM 提示注入检测
MIT新★ 13 CloudDefenseAI/secure-agents-md
面向 AI 编码智能体的安全工作约定：加固的 AGENTS.md、提示词/工具注入防护、依赖卫生、符合 Scorecard 要求的开源配置。
JavaScript · MIT新★ 19 myProjectsRavi/sentinel-protocol
开源 AI 安全防火墙，内置 81 个引擎，支持 PII 检测、提示注入防御、MCP 安全与出站分类，本地优先、零云依赖。
TypeScript · MIT新★ 24 sahiloj/MCPScan
攻击性 MCP 服务器审计器：在 stdio、HTTP 和 SSE 传输中检测工具投毒、凭据泄露、RCE 向量、SSRF、会话劫持和供应链漏洞。
GitHub新★ 157 requie/LLMSecurityGuide
保护大语言模型（LLM）的综合参考，涵盖 OWASP GenAI Top-10 风险、提示注入、对抗性攻击、真实事件和实用防御，并收录红队工具、防护栏和缓解策略目录，帮助开发者、研究人员和安全团队负责任地部署 AI
#C03 AI红队测试研究 / 基准ai-safetyai-securityai-security-toolgenerative-ai-securitygenerative-ai-security-assurancellm-securityPython · NOASSERTION新★ 12 9hannahnine-jpg/arc-gate
Arc Gate —— 带提示注入检测的 LLM 代理。Bendex Geometry。
Python新★ 61 dongdongunique/EvoSynth
EvoSynth 是 SOTA 自动化 LLM 红队测试框架，通过多智能体合成、进化搜索和自我纠错来演化可执行的代码级越狱攻击方法。
NOASSERTION新★ 13 X-Scale-AI/GRITS
开源 AI Agent 安全框架，可对 AI Agent 进行评分、加固和治理，基于 DoD/DISA 零信任原则构建。
Python · MIT新★ 17 KazKozDev/system-prompt-benchmark
面向 LLM 安全的自动化红队测试工具，评估系统提示词对提示注入、越狱和数据外泄攻击的抵御能力。
Python · MIT新★ 24 Coff0xc/LLM-Security-Assessment-Framework
FORGEDAN——LLM 安全评估的进化框架 | 6 种攻击方法 | 18 个模型适配器 | Vue 3 仪表盘 | Web 安全扫描
Python · Apache-2.0新★ 20 mega-edo/mega-security-leaderboard
比较 LLM 智能体在系统提示词泄露与攻击探测方面安全性的排行榜。
#C03 AI红队测试研究 / 基准agent-securityagent-security-benchmarkllm-securityllm-security-benchmarkprompt-securityprompt-security-benchmark
Python · MIT新★ 18 nevinshine/telos-runtime
闭环安全运行时，防止自主 AI Agent 中的“The Great Exfiltration”和间接提示注入。