hashgraph-online/hol-guard
面向 AI agent 的开源杀毒软件：在运行时拦截高风险工具、机密访问、提示注入、恶意软件包、MCP 服务器、插件和技能。
看开源
AI 安全相关的开源项目、工具与仓库动态，按内容类型筛选，支持搜索。
分类筛选1展开收起
找到 26 个
Python · Apache-2.0新★ 1,013 Go · Apache-2.0新★ 971 pipelab-org/pipelock
面向 MCP 安全和智能体出口的开源 AI 智能体防火墙。扫描经其代理的 HTTP、MCP、A2A 和 WebSocket 流量，检测数据外泄、SSRF 和提示词注入，并生成由中介签名的操作回执：来自智能体外部的可验证审计证据。
Rust · Apache-2.0新★ 4,749 nolabs-ai/nono
智能体运行时安全——零信任、零配置、零延迟的智能体沙箱。
#C03 AI红队测试工具 / 框架agent-runtime-securityagent-sandboxagent-securityai-agent-sandboxai-agent-securityai-agentsTypeScript · MIT新★ 422 Agent-Threat-Rule/agent-threat-rules
面向 AI 代理安全威胁的开放检测规则标准——类似 Sigma，但针对 AI 代理。提供可执行、可测试的规则，覆盖提示注入、工具投毒、上下文窃取和 MCP 攻击。已合并进 Microsoft、Cisco、Gen Digital、MISP 和 FINOS 的开源项目。MIT 许可。
TypeScript新★ 38 purpleroc/mcp-security-inspector
一个用于检测Model Context Protocol (MCP)安全性的Chrome扩展工具。
Python · Apache-2.0新★ 586 secureagentics/Adrian
开源运行时 AI 代理安全工具——实时监控和控制 AI 代理，在代理行动之前捕获恶意工具使用、提示注入和策略漂移。
Python · NOASSERTION新★ 380 getagentseal/agentseal
面向 AI 代理的安全工具集。扫描本机中危险的技能与 MCP 配置，监控供应链攻击，测试提示注入抵抗力，并审计在线 MCP 服务器的工具投毒问题。
JavaScript · MIT新★ 19 putervision/spc
高性能零依赖静态分析工具，在 20 种编程语言中强制执行 NASA Power of Ten 规则，并审计 AI agent 技能、MCP 服务器配置、提示模板和 LLM 模型安全。
JavaScript · NOASSERTION新★ 14 emmanuelgjr/GenAI-Security-Crosswalk
最全面的开源 OWASP GenAI 风险到行业框架映射——70 个映射文件、25 个框架、1016 项控制、125 起事件，以及 ML 分类器流水线。来源列表包括 LLM Top 10、Agentic Top 10、DSGAI 2026、EU AI Act、NIST、ISO、SOC 2、FedRAMP、DORA、OT/ICS、MITRE ATLAS。
TypeScript · MIT新★ 13 vasikmansuri/agentconfig-doctor
MCP security scanner & config linter for AI coding agents. Finds leaked secrets, risky commands, broad permissions and invalid MCP servers in Claude Code, Cursor and VS Code (Copilot) configs. Local-first CLI, no telemetry.
TypeScript · Apache-2.0新★ 129 StackOneHQ/defender
面向调用工具（通过 MCP、CLI 或直接函数调用）的 Agent 的开源提示注入防护。检测并防御提示注入攻击。22MB，仅用 CPU，延迟低于 10ms。
#C03 AI红队测试研究 / 基准ai-securityindirect-prompt-injectionllm-securitymcp-securityprompt-injectionprompt-injection-defenseGPL-3.0新★ 53 OWASP/MCP-Security-Testing-Guide
OWASP MCP 安全测试指南。
JavaScript · MIT新★ 123 sinewaveai/agent-security-scanner-mcp
面向 AI 编码代理的安全扫描 MCP 服务器。提示注入防火墙、包幻觉检测（430 万+ 包）、1000+ 条漏洞规则（含 AST 与污点分析）、自动修复。
Python · Apache-2.0新★ 33 msaleme/red-team-blue-team-agent-fabric
AI 智能体安全测试框架，对抗性测试：v4.28.0 版本包含 649 个可执行测试，覆盖 MCP、A2A、x402/L402、决策治理、基准完整性、人在回路、技能供应链。四种目标形态：判定必须既可能出错，也可能正确。对应 OWASP Agentic v1.1 T1-T17、AIUC-1 19/20（2026-Q1/Q2 集）、NIST AI 800-2。
Astro · MIT新★ 482 RiccardoBiosas/awesome-MLSecOps
精选的 MLSecOps 工具与资源列表，用于保护机器学习和 AI 系统——涵盖对抗性 ML 防御、LLM 安全、AI 红队测试、模型扫描、供应链防护和 MLOps 流水线安全
#C03 AI红队测试Awesome Listadversarial-machine-learningagentic-securityai-agentsai-governanceai-red-teamingai-security
Shell · MIT新★ 41 bridge-mind/BridgeWard
不信任任何东西，安全交付。——面向 AI 代理的怀疑式阅读与提示注入防御技能。来源标记、红旗模式、拒绝模板以及只读注入审计器。MIT。
JavaScript · Apache-2.0新★ 10 happy520ai/unified-ai-system
Self-hosted model routing gateway and agent control plane for OpenAI, Anthropic, Gemini and A2A agents behind one OpenAI-compatible API, protocol-first. MCP server security, governed tools, prompt enhancement, virtual-key budgets, cache, observability, audit chain and agent governance. Zero-key local first run; public preview.
TypeScript · MIT新★ 135 KryptosAI/mcp-observatory
Free, MIT-licensed MCP security testing from ClearFrame. Scan, audit, compare, and review locally; continue in the ClearFrame CLI or Mac app.
Python · MIT新★ 67 82ch/MCP-Dandan
面向 Agentic AI 的 MCP 安全方案 —— 实时代理、行为分析和恶意工具检测
Python · CC-BY-4.0新★ 13 fevziegeyurtsevenler/awesome-ai-security-tr
土耳其语 AI 安全资源——提示注入、越狱、红队测试、护栏、代理/MCP 与 RAG 安全。每条资源旁附土耳其语说明解释收录原因；失效链接由 CI 扫描。· 土耳其语 AI/LLM 安全资源列表
CC-BY-4.0新★ 11 fevziegeyurtsevenler/LLM-Security-Turkiye
土耳其语 AI 安全的开源框架：指南系列、实战学院、研究与实验、23+ 工具和 20 个 Hugging Face 数据集 + 模型。
Python · NOASSERTION新★ 111 DmitrL-dev/AISecurity
开源 AI 安全实验室：英俄双语学院、公开的 Rust 防御、研究与本地输入评估。通过 Spectorn 体验实时防护
TypeScript · MIT新★ 24 sahiloj/MCPScan
攻击性 MCP 服务器审计器：在 stdio、HTTP 和 SSE 传输中检测工具投毒、凭据泄露、RCE 向量、SSRF、会话劫持和供应链漏洞。
MIT新★ 20 sonuoffsec/AI-Security-Hub
综合性 AI 安全中心，汇集载荷、速查表、动手实验、安全工具、MCP 安全、RAG 安全、智能体安全、CTF 挑战和研究资源
Python · MIT新★ 18 Acacian/aegis
面向 Python 的 LLM 防护栏与提示注入检测。自动接入 LangChain、CrewAI、OpenAI、LiteLLM 等 8 个以上框架，支持 PII 掩码、毒性检测和策略 CI/CD，一行接入、无需改代码。
CC-BY-SA-4.0新★ 74 mcp-security-standard/mcp-server-security-standard
MCP Server Security Standard（MSSS）：一套开放、可测试的安全控制标准，用于认证 MCP 服务器，包含分级、证据要求和报告模式。