Agent-Threat-Rule/agent-threat-rules
面向 AI 代理安全威胁的开放检测规则标准——类似 Sigma，但针对 AI 代理。提供可执行、可测试的规则，覆盖提示注入、工具投毒、上下文窃取和 MCP 攻击。已合并进 Microsoft、Cisco、Gen Digital、MISP 和 FINOS 的开源项目。MIT 许可。
看开源
AI 安全相关的开源项目、工具与仓库动态，按内容类型筛选，支持搜索。
分类筛选1展开收起
找到 9 个
TypeScript · MIT新★ 422 Python · Apache-2.0新★ 586 secureagentics/Adrian
开源运行时 AI 代理安全工具——实时监控和控制 AI 代理，在代理行动之前捕获恶意工具使用、提示注入和策略漂移。
JavaScript · NOASSERTION新★ 14 emmanuelgjr/GenAI-Security-Crosswalk
最全面的开源 OWASP GenAI 风险到行业框架映射——70 个映射文件、25 个框架、1016 项控制、125 起事件，以及 ML 分类器流水线。来源列表包括 LLM Top 10、Agentic Top 10、DSGAI 2026、EU AI Act、NIST、ISO、SOC 2、FedRAMP、DORA、OT/ICS、MITRE ATLAS。
TypeScript · Apache-2.0新★ 129 StackOneHQ/defender
面向调用工具（通过 MCP、CLI 或直接函数调用）的 Agent 的开源提示注入防护。检测并防御提示注入攻击。22MB，仅用 CPU，延迟低于 10ms。
#C03 AI红队测试研究 / 基准ai-securityindirect-prompt-injectionllm-securitymcp-securityprompt-injectionprompt-injection-defensePython · Apache-2.0新★ 33 msaleme/red-team-blue-team-agent-fabric
AI 智能体安全测试框架，对抗性测试：v4.28.0 版本包含 649 个可执行测试，覆盖 MCP、A2A、x402/L402、决策治理、基准完整性、人在回路、技能供应链。四种目标形态：判定必须既可能出错，也可能正确。对应 OWASP Agentic v1.1 T1-T17、AIUC-1 19/20（2026-Q1/Q2 集）、NIST AI 800-2。
Shell · MIT新★ 41 bridge-mind/BridgeWard
不信任任何东西，安全交付。——面向 AI 代理的怀疑式阅读与提示注入防御技能。来源标记、红旗模式、拒绝模板以及只读注入审计器。MIT。
JavaScript · Apache-2.0新★ 10 happy520ai/unified-ai-system
Self-hosted model routing gateway and agent control plane for OpenAI, Anthropic, Gemini and A2A agents behind one OpenAI-compatible API, protocol-first. MCP server security, governed tools, prompt enhancement, virtual-key budgets, cache, observability, audit chain and agent governance. Zero-key local first run; public preview.
CC-BY-4.0新★ 11 fevziegeyurtsevenler/LLM-Security-Turkiye
土耳其语 AI 安全的开源框架：指南系列、实战学院、研究与实验、23+ 工具和 20 个 Hugging Face 数据集 + 模型。
TypeScript · MIT新★ 24 sahiloj/MCPScan
攻击性 MCP 服务器审计器：在 stdio、HTTP 和 SSE 传输中检测工具投毒、凭据泄露、RCE 向量、SSRF、会话劫持和供应链漏洞。