pipelab-org/pipelock
面向 MCP 安全和智能体出口的开源 AI 智能体防火墙。扫描经其代理的 HTTP、MCP、A2A 和 WebSocket 流量，检测数据外泄、SSRF 和提示词注入，并生成由中介签名的操作回执：来自智能体外部的可验证审计证据。
看开源
AI 安全相关的开源项目、工具与仓库动态，按内容类型筛选，支持搜索。
分类筛选1展开收起
找到 35 个
Go · Apache-2.0新★ 971 Rust · Apache-2.0新★ 4,749 nolabs-ai/nono
智能体运行时安全——零信任、零配置、零延迟的智能体沙箱。
#C03 AI红队测试工具 / 框架agent-runtime-securityagent-sandboxagent-securityai-agent-sandboxai-agent-securityai-agentsPython · Apache-2.0新★ 278 guardana/guardana
面向模型产物、在线端点、MCP 服务器和录制的 agent 轨迹的开源 AI 安全验证工具，为发布决策提供可复现的证据。
MIT新★ 14 UnboundCompute/security-agent-skills
Security-testing methodology as portable, tool-agnostic agent skills for Claude Code and any agent runtime: white-box bug hunting, AI-agent and LLM red-teaming, supply-chain risk, and appsec depth.
Python · Apache-2.0新★ 55 humanbound/humanbound-firewall
Multi-tier firewall for AI agents — blocks prompt injections, jailbreaks, and scope violations. Local tiers first; LLM judge only when uncertain.
Python · NOASSERTION新★ 67 NuGuardAI/nuguard
AI 红队工具与 LLM 安全框架，用于评估 Agentic AI 应用。测试提示注入、执行漏洞评估、生成 SBOM 并进行静态分析。
#C03 AI红队测试工具 / 框架adversarial-machine-learningagentic-aiai-agentsai-red-team-toolai-red-teamingai-securityPython · MIT新★ 37 votal-ai-hq/ai-red-teaming
面向 LLM 与 Agentic AI 应用的白盒与黑盒 AI 红队框架。它分析应用源码以发现工具、角色和护栏，然后跨多个类别生成新的攻击链，并在多轮多轮交互中自适应以发现漏洞
#C03 AI红队测试工具 / 框架agent-security-toolsagentic-aiai-agentsai-securityai-security-tooldata-exfiltrationPython · Apache-2.0新★ 32 arcjet/arcjet-py
面向 AI 应用和代理的运行时安全：提示注入检测、工具调用授权、敏感数据脱敏、机器人防护和速率限制。可直接嵌入 Python 代码。
Python · NOASSERTION新★ 380 getagentseal/agentseal
面向 AI 代理的安全工具集。扫描本机中危险的技能与 MCP 配置，监控供应链攻击，测试提示注入抵抗力，并审计在线 MCP 服务器的工具投毒问题。
TypeScript · MIT新★ 13 vasikmansuri/agentconfig-doctor
MCP security scanner & config linter for AI coding agents. Finds leaked secrets, risky commands, broad permissions and invalid MCP servers in Claude Code, Cursor and VS Code (Copilot) configs. Local-first CLI, no telemetry.
MIT新★ 47 CollieAi/llm-firewall
AI 防火墙与 LLM 安全工具包——保护 AI 应用免受提示注入、越狱、PII 泄露和对抗性攻击
JavaScript · MIT新★ 123 sinewaveai/agent-security-scanner-mcp
面向 AI 编码代理的安全扫描 MCP 服务器。提示注入防火墙、包幻觉检测（430 万+ 包）、1000+ 条漏洞规则（含 AST 与污点分析）、自动修复。
Python · Apache-2.0新★ 49 occludra/gateway
自托管的 AI 安全代理，可脱敏 PII、拦截提示注入，并路由到任意 LLM 提供商，兼容 OpenAI 接口。
Python · Apache-2.0新★ 22 saasvista/aibom-scanner
扫描代码库中的 AI SDK、MCP 服务器和 agent 工具；将风险映射到 NIST AI RMF、ISO 42001、EU AI Act 以及 OWASP LLM 与 Agentic Top 10
Python · MIT新★ 58 gl0di/clawseccheck
针对 OpenClaw 代理的本地只读安全审计工具，可发现配置、提示注入与供应链风险，监控漂移并在安装前审查技能，完全离线、零依赖，五层检测后给出 A–F 评级。
Python · NOASSERTION新★ 47 SnailSploit/AATMF-Adversarial-AI-Threat-Modeling-Framework
AATMF | 开源对抗性 AI 威胁建模框架
Python · NOASSERTION新★ 124 OraclesTech/guardian-sdk
Ethicore Engine® 是一个 AI 安全、伦理与合规平台。本仓库包含 Ethicore Engine™ 的开源组件 Guardian SDK，通过多层分析流水线保护 AI 应用免受提示注入、越狱、角色劫持、系统提示提取及 100 多种其他威胁类别的侵害
#C03 AI红队测试工具 / 框架adversarial-machine-learningagent-safetyagent-securityagentic-loopai-agentsai-safety
Jupyter Notebook新★ 101 erfnzdeh/MCI-LLM-Security-Hackathon
Prompt Police 团队在 MCI 的 LLM 安全黑客松（Quera，2025 年 11 月）中的比赛日记：通过跨语言、音译和框架攻击越狱 14 个禁止领域的安全防护模型。
Python · MIT新★ 73 UseAI-pro/openclaw-skills-security
精选的、安全优先的 OpenClaw 技能（基于 Markdown），安全审计技能可检测提示注入、供应链攻击和凭据泄露，适用于 Codex CLI、Claude Code 及任意 LLM
Python · MIT新★ 20 GoldenWing-360/claude-security-skills
25 个经生产验证的 Claude Code 防御性安全技能——WordPress、VPS、Cloudflare、Next.js 加固、AI 代理护栏、MCP 安全、提示注入防御、OWASP LLM Top 10、LLM 编码失败模式（slopsquatting、幻觉 API、谄媚）、事件响应、GDPR/DACH 合规。MIT，久经实战。
JavaScript · NOASSERTION新★ 15 FarzamHabibi/pre-production-checklist
面向独立创始人的上线前检查清单。包含 4,573 个条目，87% 可移植到任意技术栈，另有 26 份技术栈补充——以及 AI/智能体安全和 AI 编程助手实际写出的 bug。
Python · MIT新★ 11 SyedAnas01/mcp-safeguard
🛡️ 面向 MCP (Model Context Protocol) 服务器的安全扫描器——提示注入、凭据暴露、SSRF、工具投毒及源码级凭据处理缺陷。pip install mcp-safeguard
Python · Apache-2.0新★ 10 emarco177/agent-security
AI 代理安全实践资源：在部署到云端的 LangChain IT 服务台代理上演示 OWASP GenAI 的攻击、修复与验证。
Python · Apache-2.0新★ 28 atliq/guardex-ai
LLM 防护栏 Python SDK，提供安全分类、PII 检测、提示注入防御和依据性检查，无需外部 API 即可在本地保护 AI 应用，支持流式输出，可即插即用地集成到任意 LLM
Python · MIT新★ 180 seojoonkim/prompt-guard
面向 AI agent 的高级提示注入防御系统。多语言检测、严重性评分和安全审计。
Python · MIT新★ 70 ax128/AegisGate
面向 LLM API 的开源安全网关，提供提示注入检测、PII 脱敏、危险响应过滤与审计日志，兼容 OpenAI/Claude，可作为 Cursor、Claude Code 等 AI 编码代理的即插即用代理。
Python · MIT新★ 18 Acacian/aegis
面向 Python 的 LLM 防护栏与提示注入检测。自动接入 LangChain、CrewAI、OpenAI、LiteLLM 等 8 个以上框架，支持 PII 掩码、毒性检测和策略 CI/CD，一行接入、无需改代码。
Python · MIT新★ 155 ZenGuard-AI/fast-llm-security-guardrails
为 AI Agent 提供最快的信任层。
Rust · Apache-2.0新★ 10 akav-labs/agentsentry-gateway
面向 LLM Agent 的透明 OpenAI 兼容安全网关——在出口处进行 DLP、密钥泄露、越狱和提示注入检测。是 Akav Labs 出品的 AgentSentry 的开源核心。
Python · MIT新★ 75 olegnazarov/rag-security-scanner
RAG/LLM 安全扫描器，可识别 AI 应用（包括聊天机器人、虚拟助手和知识检索系统）中的关键漏洞。
Python · NOASSERTION新★ 14 killertcell428/ai-guardian
面向 Python 的开源 LLM 安全库。三行代码即可保护你的 AI 应用免受提示注入、数据泄露和有害输出影响。
Python · MIT新★ 53 techlab-innov/llmtrace
零代码 LLM 安全与可观测性代理。为 OpenAI 兼容 API 提供实时提示注入检测、PII 扫描和成本控制，使用 Rust 构建。
Python · Apache-2.0新★ 10 Helixar-AI/sentinel
Helixar 出品的 MCP 安全扫描器
Python新★ 11 balavenkatesh3322/guardrails-demo
基于 Llama Guard 的 LLM 安全项目
Go · MIT新★ 140 makalin/SecureMCP
SecureMCP 是一款安全审计工具，用于检测使用 Model Context Protocol (MCP) 的应用中的漏洞和错误配置。它主动识别 OAuth 令牌泄露、提示注入漏洞、恶意 MCP 服务器和工具投毒攻击等威胁。