hashgraph-online/hol-guard
面向 AI agent 的开源杀毒软件：在运行时拦截高风险工具、机密访问、提示注入、恶意软件包、MCP 服务器、插件和技能。
看开源
AI 安全相关的开源项目、工具与仓库动态，按内容类型筛选，支持搜索。
分类筛选1展开收起
找到 31 个
Python · Apache-2.0新★ 1,013 Python · Apache-2.0新★ 2,033 msoedov/agentic_security
代理式 LLM 漏洞扫描器 / AI 红队工具包
#C03 AI红队测试研究 / 基准agent-frameworkagent-securityai-red-teamllm-evaluationllm-evaluation-frameworkllm-fuzzerPython · Apache-2.0新★ 23,285 NVIDIA/SkillSpector
面向 AI 智能体技能的 security scanner。在安装前检测 Claude Code、Codex 和 MCP 技能中的漏洞、恶意模式、安全风险、提示注入、数据外泄和供应链风险
Go · Apache-2.0新★ 971 pipelab-org/pipelock
面向 MCP 安全和智能体出口的开源 AI 智能体防火墙。扫描经其代理的 HTTP、MCP、A2A 和 WebSocket 流量，检测数据外泄、SSRF 和提示词注入，并生成由中介签名的操作回执：来自智能体外部的可验证审计证据。
Rust · Apache-2.0新★ 4,749 nolabs-ai/nono
智能体运行时安全——零信任、零配置、零延迟的智能体沙箱。
#C03 AI红队测试工具 / 框架agent-runtime-securityagent-sandboxagent-securityai-agent-sandboxai-agent-securityai-agentsPython · Apache-2.0新★ 7,209 Tencent/AI-Infra-Guard
全栈 AI 红队测试平台，通过 Agent Scan、Skills Scan、MCP scan、AI Infra scan 和 LLM 越狱评估来保障 AI 生态安全
TypeScript · Apache-2.0新★ 697 arcjet/arcjet-js
面向 AI 应用和 agent 的运行时安全：提示注入检测、工具调用授权、敏感数据脱敏、机器人防护和限流。可直接接入你的 JS/TS 代码。
Python · Apache-2.0新★ 278 guardana/guardana
面向模型产物、在线端点、MCP 服务器和录制的 agent 轨迹的开源 AI 安全验证工具，为发布决策提供可复现的证据。
Python · Apache-2.0新★ 468 PrismorSec/prismor
面向 AI 代理的自托管运行时控制平面。在恶意工具调用执行前进行观察、人工审批或阻断：密钥泄露、提示注入、供应链等，均在本地仪表盘中处理。与代理无关（Claude、codex、langchain 等）。
TypeScript · MIT新★ 422 Agent-Threat-Rule/agent-threat-rules
面向 AI 代理安全威胁的开放检测规则标准——类似 Sigma，但针对 AI 代理。提供可执行、可测试的规则，覆盖提示注入、工具投毒、上下文窃取和 MCP 攻击。已合并进 Microsoft、Cisco、Gen Digital、MISP 和 FINOS 的开源项目。MIT 许可。
Python新★ 49 Tcotl/DVLAA
DVLAA（Damn Vulnerable LLM and Agent Application）是一个本地 LLM 与 Agent 安全靶场，用于 OWASP LLM Top 10 和 Agent 安全培训。
Python · Apache-2.0新★ 55 humanbound/humanbound-firewall
Multi-tier firewall for AI agents — blocks prompt injections, jailbreaks, and scope violations. Local tiers first; LLM judge only when uncertain.
Python · Apache-2.0新★ 586 secureagentics/Adrian
开源运行时 AI 代理安全工具——实时监控和控制 AI 代理，在代理行动之前捕获恶意工具使用、提示注入和策略漂移。
Python · Apache-2.0新★ 32 arcjet/arcjet-py
面向 AI 应用和代理的运行时安全：提示注入检测、工具调用授权、敏感数据脱敏、机器人防护和速率限制。可直接嵌入 Python 代码。
Python · NOASSERTION新★ 380 getagentseal/agentseal
面向 AI 代理的安全工具集。扫描本机中危险的技能与 MCP 配置，监控供应链攻击，测试提示注入抵抗力，并审计在线 MCP 服务器的工具投毒问题。
JavaScript · MIT新★ 12 putervision/WebCrypt
零依赖的 Web Crypto 套件与 Model Context Protocol (MCP) 服务器，支持 AES-256-GCM、RSA-4096 及 AI 智能体安全。
Python · MIT新★ 345 CyberSunil/LLMVault
一个故意留有漏洞的 OWASP LLM Top 10 训练平台，用于 AI 安全、提示注入、RAG 安全、agent 安全和 GenAI 渗透测试。
JavaScript · MIT新★ 123 sinewaveai/agent-security-scanner-mcp
面向 AI 编码代理的安全扫描 MCP 服务器。提示注入防火墙、包幻觉检测（430 万+ 包）、1000+ 条漏洞规则（含 AST 与污点分析）、自动修复。
Python · Apache-2.0新★ 33 msaleme/red-team-blue-team-agent-fabric
AI 智能体安全测试框架，对抗性测试：v4.28.0 版本包含 649 个可执行测试，覆盖 MCP、A2A、x402/L402、决策治理、基准完整性、人在回路、技能供应链。四种目标形态：判定必须既可能出错，也可能正确。对应 OWASP Agentic v1.1 T1-T17、AIUC-1 19/20（2026-Q1/Q2 集）、NIST AI 800-2。
Python · MIT新★ 38 gatsby-sec/llm-sec-range
🛡️ 大模型攻防渗透测试靶场 · 提示注入CTF / OWASP LLM Top10 / 脆弱Agent / 资料聚合。目标模型可切换：DeepSeek直连、OpenRouter中转站(国产+国外十余款小模型)、本地Ollama(DeepSeek-R1 8B离线)。一键本地部署。
Python · MIT新★ 58 gl0di/clawseccheck
针对 OpenClaw 代理的本地只读安全审计工具，可发现配置、提示注入与供应链风险，监控漂移并在安装前审查技能，完全离线、零依赖，五层检测后给出 A–F 评级。
TypeScript · MIT新★ 135 KryptosAI/mcp-observatory
Free, MIT-licensed MCP security testing from ClearFrame. Scan, audit, compare, and review locally; continue in the ClearFrame CLI or Mac app.
Python · NOASSERTION新★ 124 OraclesTech/guardian-sdk
Ethicore Engine® 是一个 AI 安全、伦理与合规平台。本仓库包含 Ethicore Engine™ 的开源组件 Guardian SDK，通过多层分析流水线保护 AI 应用免受提示注入、越狱、角色劫持、系统提示提取及 100 多种其他威胁类别的侵害
#C03 AI红队测试工具 / 框架adversarial-machine-learningagent-safetyagent-securityagentic-loopai-agentsai-safety
TypeScript · Apache-2.0新★ 28 doronp/agentshield-benchmark
AI 代理安全工具的开源基准——提示注入、数据外泄、工具滥用、来源追踪
Python · MIT新★ 15 agentveil-protocol/agentveil-sdk
Independent AI agent security. For supported actions on configured routes, risky actions get a safe alternative or your approval before they run, so the task still gets done. Works with Cursor, Claude Code, Codex, Gemini CLI, Hermes CLI, and MCP tools.
Python · Apache-2.0新★ 10 emarco177/agent-security
AI 代理安全实践资源：在部署到云端的 LangChain IT 服务台代理上演示 OWASP GenAI 的攻击、修复与验证。
Python · NOASSERTION新★ 12 9hannahnine-jpg/arc-gate
Arc Gate —— 带提示注入检测的 LLM 代理。Bendex Geometry。
MIT新★ 20 sonuoffsec/AI-Security-Hub
综合性 AI 安全中心，汇集载荷、速查表、动手实验、安全工具、MCP 安全、RAG 安全、智能体安全、CTF 挑战和研究资源
Python · MIT新★ 18 Acacian/aegis
面向 Python 的 LLM 防护栏与提示注入检测。自动接入 LangChain、CrewAI、OpenAI、LiteLLM 等 8 个以上框架，支持 PII 掩码、毒性检测和策略 CI/CD，一行接入、无需改代码。
NOASSERTION新★ 13 X-Scale-AI/GRITS
开源 AI Agent 安全框架，可对 AI Agent 进行评分、加固和治理，基于 DoD/DISA 零信任原则构建。
Python · Apache-2.0新★ 20 mega-edo/mega-security-leaderboard
比较 LLM 智能体在系统提示词泄露与攻击探测方面安全性的排行榜。
#C03 AI红队测试研究 / 基准agent-securityagent-security-benchmarkllm-securityllm-security-benchmarkprompt-securityprompt-security-benchmark