看开源

mksglu/context-mode

面向 AI 编码代理的上下文窗口优化工具，沙箱化工具输出（减少 98%）、持久化会话记忆，并通过 MCP + hooks 在 17 个平台间强制路由。

msoedov/agentic_security

代理式 LLM 漏洞扫描器 / AI 红队工具包

NVIDIA/SkillSpector

面向 AI 智能体技能的 security scanner。在安装前检测 Claude Code、Codex 和 MCP 技能中的漏洞、恶意模式、安全风险、提示注入、数据外泄和供应链风险

requie/AI-Red-Teaming-Guide

AI 系统对抗测试与安全评估的综合指南，帮助组织在攻击者利用之前发现漏洞。

NVIDIA/garak

LLM 漏洞扫描器

Zwony/RedAgent

Enterprise-grade automated AI Agent Red Teaming & Security Auditing platform targeting OWASP Top 10 for LLMs.

emmanuelgjr/genai_incidents

生成式 AI 与 Agentic AI 安全事件的单一事实来源，映射到 OWASP LLM Top 10、OWASP Agentic Top 10（ASI）、NIST AI RMF 和 MITRE ATLAS。

arcjet/arcjet-js

面向 AI 应用和 agent 的运行时安全：提示注入检测、工具调用授权、敏感数据脱敏、机器人防护和限流。可直接接入你的 JS/TS 代码。

thomasunise/argus

Open-source agentic security operations platform:

PrismorSec/prismor

面向 AI 代理的自托管运行时控制平面。在恶意工具调用执行前进行观察、人工审批或阻断：密钥泄露、提示注入、供应链等，均在本地仪表盘中处理。与代理无关（Claude、codex、langchain 等）。

princezuda/safestclaw

OpenClaw 的替代方案，支持文本与语音自然对话，可选择不使用语言模型，默认识别意图与语义，无提示注入风险，保留 OpenClaw 九成以上功能并附带 TTS 与语音转文字。

Agent-Threat-Rule/agent-threat-rules

面向 AI 代理安全威胁的开放检测规则标准——类似 Sigma，但针对 AI 代理。提供可执行、可测试的规则，覆盖提示注入、工具投毒、上下文窃取和 MCP 攻击。已合并进 Microsoft、Cisco、Gen Digital、MISP 和 FINOS 的开源项目。MIT 许可。

ASCIT31/Dark-Moon

开源自主 AI 渗透测试工具。50 个专家 agent 覆盖 Web、API、云、Active Directory、Kubernetes、CI/CD 和 AI/LLM（OWASP LLM Top 10）。在 Privacy Gateway 后运行本地 LLM，并与 GitHub、GitLab、Jenkins、VS Code、JetBrains、n8n、Grafana 和 Splunk 集成。

NY1024/AgentSafety-Papers

每日跟踪 arXiv 上的 LLM Agent 安全论文。

greshake/llm-security

攻破应用集成 LLM 的新方法

SharpAI/DeepCamera

开源 AI 摄像头技能平台、AI NVR 与闭路电视监控。使用 Qwen、DeepSeek、SmolVLM、LLaVA、YOLO26 进行本地 VLM 视频分析。由 LLM 驱动的代理式安防摄像头代理——通过 Telegram、Discord 或 Slack 观察、理解、记忆并守护你的家。可插拔 AI 技能。支持 OpenAI、Google、Anthropic 或本地 AI。可在 Mac Mini 和 AI PC 上运行。

sundarsub/execwall

OpenClaw 执行防火墙——Seccomp 锁定的 AI agent 沙箱，具备策略强制执行的命令治理、WhatsApp/Telegram 集成和 Python 隔离，可部署在 Oracle Cloud 免费层。

meta-llama/PurpleLlama

用于评估和改进 LLM 安全性的工具集。

vaultmcp/vault

MCP 提示注入扫描代理——为 MCP 工具响应提供运行时安全

agamm/claude-code-owasp

面向 OWASP 安全最佳实践（2025-2026）的 Claude Code 技能，涵盖 Top 10:2025、ASVS 5.0、Agentic AI 安全，以及 20 多种语言特有的安全陷阱。

preambleai/prompt-injector

AI 安全与提示注入载荷工具集

4vanish/AI-Pentest-Playbook

🛡 一站式渗透测试 AI 聊天机器人与 LLM 应用的参考手册。提供可直接使用的载荷，覆盖 OWASP LLM Top 10 全部条目以及前沿攻击向量（MCP · RAG · A2A · computer-use · 语音）。

yeasy/ai_security_guide

从原理到实践，全面掌握大语言模型安全攻防之道 | Latest security techniques with LLM and AI Agent

gy15901580825/Argus

面向 AI 代理的黑盒开源红队测试工具。可指向任意 HTTP、gRPC 或使用浏览器的代理端点，运行 205 个探测项，对应 OWASP LLM Top 10 / MITRE ATLAS / NIST AI RMF，包括支付和 MCP 工具滥用类，其判定基于捕获的证据而非 LLM 意见。报告会说明哪些内容未被测试。提供 SARIF、CLI、GitHub Action。

Ephemeral-AI-Lab/ephemeral-sandbox

面向并行编码 agent 的开源 agent 沙箱基础设施：隔离工作区、MCP/CLI 控制、可观测性和原子发布。

nealbridges/VulnHunter

Agentic AI 安全扫描器，像攻击者一样搜寻可利用漏洞，用可执行的 PoC 加以验证，并以测试先行的方式修复。它是 Capital One VulnHunter 的维护分支，已针对任意 agent 框架重建。

GenAI-Security-Project/GenAI-Red-Team-Lab

提供一组沙箱、利用代码和教程，作为 GenAI 红队演练的示例，帮助安全研究人员和开发者测试、探测和评估基于 GenAI 的应用的安全性与防护能力。

mastepanoski/claude-skills

面向 AI 编码助手的 UX/UI 评估、AI 治理和 AI 安全技能：用 Nielsen 启发式、WCAG、Don Norman 原则审计界面；用 NIST AI RMF、ISO 42001、OWASP LLM Top 10 和 OWASP AI Testing Guide 评估 AI 风险

facebookresearch/Meta_SecAlign

论文《Meta SecAlign: A Secure Foundation LLM Against Prompt Injection Attacks》的代码仓库。

agiresearch/ASB

Agent Security Bench（ASB）

Eric-Terminal/Cognitive-Hijacking-in-Long-Context-LLMs

一种通过伪造内部状态实现的新型提示注入方法，由一名高中生发现。

SaFo-Lab/AgentDyn

论文《AgentDyn: Are Your Agent Security Defenses Deployable in Real-World Dynamic Environments?》的官方实现。

multikernel/sandlock

最轻量的 AI 沙箱。面向 Linux 的基于进程的沙箱，无需容器、无需虚拟机、无需特权，可防提示注入

hardw00t/ai-security-arsenal

面向安全研究人员的技能、agent、命令和工作流集合，兼容 Claude Code、Claude Desktop、OpenCode 等 AI 编码工具。

secureagentics/Adrian

开源运行时 AI 代理安全工具——实时监控和控制 AI 代理，在代理行动之前捕获恶意工具使用、提示注入和策略漂移。

m4xx101/cryptex-oss

开源 LLM 红队技术工具包（162 种变换、36 种变异器、25 个工具面）。MIT。

aws-samples/sample-aiml-security-assessment

面向 AWS 的 AI/ML 与生成式 AI 安全评估框架。自动审计 Amazon Bedrock、SageMaker、AgentCore 和 Agent Registry 工作负载的安全最佳实践

crunchtools/trentina

位于 AI 智能体与其工具、网页和 Matrix 之间的 MCP 网关：三层提示注入防御、更精简的工具列表与响应、网关强制的参数与响应防护、OAuth/DCR，以及按智能体区分的配置。

HeadyZhang/agent-audit

面向 LLM 代理的静态安全扫描器——提示注入、MCP 配置审计、污点分析。51 条规则映射到 OWASP Agentic Top 10 (2026)。支持 LangChain、CrewAI、AutoGen。

CiscoDevNet/foundry-security-spec

来自 Cisco 的智能体 AI 安全评估与测试开放规范。

google-research/camel-prompt-injection

论文《Defeating Prompt Injections by Design》的代码

volt-l18/llm-redteam-pipeline

自动化多轮 LLM 红队测试流水线，让攻击者模型对抗目标模型以评估安全边界，具备 LLM-as-a-Judge 评分和交互式 HTML 漏洞仪表盘。

katosh/agent_sandbox

在 HPC 系统上借助 slurm 为 AI 智能体提供沙箱。

GenAI-Security-Project/GenAI-Data-Security-Initiative

OWASP GenAI 数据安全计划——用于保障生成式 AI 系统数据安全的分类体系、对照映射、数据集和工具。

trailofbits/mcp-context-protector

MCP 安全包装层

praetorian-inc/augustus

LLM 安全测试框架，用于检测提示注入、越狱和对抗攻击——190+ 探测项、28 家提供商、单个 Go 二进制文件

emmanuelgjr/GenAI-Security-Crosswalk

最全面的开源 OWASP GenAI 风险到行业框架映射——70 个映射文件、25 个框架、1016 项控制、125 起事件，以及 ML 分类器流水线。来源列表包括 LLM Top 10、Agentic Top 10、DSGAI 2026、EU AI Act、NIST、ISO、SOC 2、FedRAMP、DORA、OT/ICS、MITRE ATLAS。

Synvoya/codeinspectus

面向 AI 生成应用的本地优先 MCP 安全扫描器。可在 Claude Code、Cursor、Codex 等代理中执行扫描 → 修复 → 重新扫描。

solanabr/auditor-skill

面向 Solana 程序和软件的 Claude Code / agentic 安全技能。覆盖完整审计公司生命周期，交付可执行 PoC 和修复补丁，包含 Rust 预扫描器与交叉审计记忆、20 份清单中的 1,346 项检查，以及 131 个真实攻击向量。

xyq7/PoisonedFL

CVPR 2025，通过多轮一致性对联邦学习实施模型投毒攻击

StackOneHQ/defender

面向调用工具（通过 MCP、CLI 或直接函数调用）的 Agent 的开源提示注入防护。检测并防御提示注入攻击。22MB，仅用 CPU，延迟低于 10ms。

agencyenterprise/PromptInject

PromptInject 是一个以模块化方式组装提示词的框架，用于定量分析 LLM 对对抗性提示攻击的鲁棒性。🏆 获 NeurIPS ML Safety Workshop 2022 最佳论文奖

Mattral/guardrail-rs

用 Rust 编写的 LLM 安全代理

calmrocks/ai-engineer-notebooks

面向 AI 工程师/前向部署工程师（FDE）技能集的实战型无框架 Colab notebook——涵盖模型 API、结构化输出、工具调用、RAG、以评估为主线的流程、agent（从零实现循环、工具设计、防护栏、MCP、Skills）、微调与 LoRA 对比、提示注入/安全、LLMOps 和客户沟通技巧，可在免费的 Groq API 上运行。

facebookresearch/rl-injector

论文《RL is a hammer and LLMs are nails: A simple RL approach to stronger prompt injection attacks》的官方代码发布

toby-bridges/api-relay-audit

针对 AI API 中转和 LLM 代理的本地安全审计：检测提示注入、模型替换、工具调用改写、SSE 异常、错误信息泄露和 Web3 钱包风险

buryusu/All-AI-Jailbreaks

面向 AI 模型鲁棒性研究、红队演练和防御评估的越狱与提示注入实验精选归档。

msaleme/red-team-blue-team-agent-fabric

AI 智能体安全测试框架，对抗性测试：v4.28.0 版本包含 649 个可执行测试，覆盖 MCP、A2A、x402/L402、决策治理、基准完整性、人在回路、技能供应链。四种目标形态：判定必须既可能出错，也可能正确。对应 OWASP Agentic v1.1 T1-T17、AIUC-1 19/20（2026-Q1/Q2 集）、NIST AI 800-2。

mythos-agent/mythos-agent

AI 安全代理守护你的代码。

Virtue-Research/guard-eval-harness

一条命令即可在安全、安保、越狱、提示注入和安全编码任务上对 AI 防护栏和编码 agent 进行基准测试

yatuk/tamga

自托管的 LLM 安全代理。提供 PII 脱敏、提示注入防御，符合 KVKK/GDPR/PCI-DSS，延迟低于毫秒级。

zakky8/llm-jailbreak-taxonomy

基于机制的 40 种 LLM 越狱模式分类，涵盖 10 个类别。针对 2026 年 6 月前沿模型（Claude Opus 4-8、GPT-5.5、Gemini 3.5、DeepSeek V4）的 8000 次试验自举评估。每条引用均经直接 WebFetch 验证；被驳斥的说法也有记录。

TrustAI-laboratory/LMAP

LMAP（large language model mapper）相当于面向 LLM 的 NMAP，是 LLM 漏洞扫描器和零日漏洞模糊测试工具。

ethanolivertroy/unpromptedcon-2026-slides

[un]prompted 2026（AI 安全从业者大会，3 月 3-4 日，旧金山）全部可用演讲幻灯片的社区合集。

Josh-blythe/bordair-multimodal

开源跨模态与多模态提示注入测试套件。包含覆盖文本、图像、文档和音频模态的 25 万+ 攻击载荷。研究依据来自 OWASP LLM Top 10、CrossInject（ACM MM 2025）、FigStep（AAAI 2025）、DolphinAttack 和 CSA 2026。

ZJU-LLM-Safety/DARWIN

DARWIN 是一个自进化 LLM 越狱框架，通过外部提取、沙箱过滤、历史记忆检索、基于马尔可夫的策略选择以及反思/遗传进化，培育可复用的策略池。

tldrsec/prompt-injection-defenses

针对提示注入的各种实用与提议防御方案。

ZeroDayEvil/CVE-2026-54121-Certighost

CVE-2026-54121（Certighost——AD CS 域控制器冒充与 PKINIT 提权）的官方 AI 安全工具模块。

bridge-mind/BridgeWard

不信任任何东西，安全交付。——面向 AI 代理的怀疑式阅读与提示注入防御技能。来源标记、红旗模式、拒绝模板以及只读注入审计器。MIT。

henrymao2004/Auto-research-red-teaming

AHA 是面向智能体安全的自动研究：一个智能体在一夜之间对生产智能体进行红队测试，并带回可复用的解释，说明该智能体为何失效，随时可用于新任务。

ReversecLabs/spikee

用于评估和利用的简易提示注入工具包

akanthed/SecureAI-Scan

在攻击者之前发现代码中的 AI/LLM 安全漏洞，覆盖提示注入、MCP 工具投毒、RAG 数据投毒等。

Phantom8420/Aegis

生产级 LLM 安全防火墙，具备双向强制执行、对抗性输入扫描和实时运维控制台，使用 FastAPI、Kafka 和 Docker 构建

pors/skill-audit

用于审计 AI 智能体技能的安全 CLI，可检测提示词注入、密钥泄露和危险代码模式。

Seezo-io/llm-security-101

深入 LLM 安全领域：探索攻防工具，揭示其当前能力

SleuthCo/clawshield-public

面向 AI 代理的安全代理。扫描每条消息中的提示注入、PII 和密钥。纵深防御：Go 代理 + iptables 防火墙 + eBPF 内核监控。YAML 策略引擎、审计日志、5 个带 RAG 知识库的 AI 代理。

BakeLens/crust

🌟 开源 AI 代理安全基础设施——在危险代理行为发生前拦截并阻止。只需一条命令！加入我们，共建更安全的人机共生！

humane-intelligence/hi-oss-ai-red-teaming

用于对 AI 模型和系统开展以人为中心的红队评估的平台

01xor/ai-jailbreak-archive

汇总我在 OpenAI、Gemini、Grok 及其他 LLM 上发现的越狱、提示注入和相关漏洞利用。

kajogo777/the-agent-sandbox-taxonomy

用于评估 AI agent 沙箱的开放分类与评分框架：7 个防御层、7 类威胁、3 个评估维度，对 27 个“沙箱”进行评分。

agentshield-ai/sigma-ai

用于 AI 代理安全监控的 Sigma 检测规则

opena2a-org/oasb

开放的智能体安全基准，包含 222 个攻击场景、与产品无关的适配器接口，并映射到 MITRE ATLAS。

Sizhe-Chen/StruQ

[USENIX Sec'25] StruQ：用结构化查询防御提示注入的官方实现。

TUD-ARTS-2023/LLM-red-teaming-prompts

来自论文《Student-Teacher Prompting for Red Teaming to Improve Guardrails》的 LLM 红队数据集，用于 2023 年 ART of Safety 研讨会

mindspore-ai/mindarmour

面向 MindSpore 用户的工具箱，用于增强模型安全性和可信度。

xhOwenMa/AutoDojo

论文《AutoDojo: A Generative Benchmark for Evaluating Prompt Injection Defenses in LLM Agents》的代码

sinanw/llm-security-prompt-injection

该项目通过对一组输入提示进行二分类来研究大语言模型的安全性，以发现恶意提示。已使用经典机器学习算法、预训练 LLM 模型和微调 LLM 模型分析多种方法。

cyb3rmik3/prompt-injection-email-samples

用于检验邮件安全控制和 AI 邮箱助手如何处理间接提示注入的 .eml 邮件开放测试集。它将三种意图（系统提示词泄露、数据外泄、工具发现）与三种投递方式（明文、隐藏 HTML、Base64）交叉组合，并附带一个良性对照。所有内容均为虚构且不可路由。

shinthink/blitzstrike

Blitz Strike——通用 MCP 安全审计工具带。快速侦察、深入分析、先验证后出报告。

Greysahy/ipiguard

[EMNLP 2025 Oral] IPIGuard：一种基于工具依赖图的新型防御方法，用于抵御 LLM 智能体中的间接提示注入。

happy520ai/unified-ai-system

Self-hosted model routing gateway and agent control plane for OpenAI, Anthropic, Gemini and A2A agents behind one OpenAI-compatible API, protocol-first. MCP server security, governed tools, prompt enhancement, virtual-key budgets, cache, observability, audit chain and agent governance. Zero-key local first run; public preview.

GoogleCloudPlatform/activation-model-scanner

通过分析激活模式，在部署前验证语言模型的安全性

slowmist/slowmist-agent-security

SlowMist 代理安全技能：面向在对抗环境中运行的 AI 代理的综合安全审查框架。核心原则：每个外部输入在验证前都不可信。

sleeepeer/PIArena

[ACL 2026] PIArena: A Platform for Prompt Injection Evaluation

LLMSecurity/HouYi

面向集成 LLM 应用的自动化提示注入框架。

OWASP/www-project-llm-verification-standard

OWASP LLM 安全验证标准

promptfoo/promptfoo-action

Promptfoo 的 GitHub Action，用于测试提示、代理与 RAG，支持 AI 红队、渗透测试与 LLM 漏洞扫描，可对比 GPT、Claude、Gemini、Llama 等模型表现，配置简单并集成命令行与 CI/CD。

lasso-security/claude-hooks

面向 Claude Code 的 Lasso 安全集成，包含提示注入防御

sunyinggang/LLM-Agent-Security-Survey

论文《A Survey on the Unique Security of Autonomous and Collaborative LLM Agents: Threats, Defenses, and Futures》的官方 GitHub 页面。

SaFo-Lab/JailBreakV_28K

[COLM 2024] JailBreakV-28K：一个综合基准，用于评估 LLM 越狱攻击向 MLLM 的可迁移性，并进一步评估 MLLM 面对多种越狱攻击的鲁棒性与安全性。

deadbits/vigil-llm

检测提示注入、越狱及其他潜在风险的 LLM 输入。

hackersatyamrastogi/pentesting-cyber-mcp

50+ 个用于 AI 驱动渗透测试的 MCP 安全服务器 | 集成 Nmap、Burp Suite、Nuclei、Shodan、BloodHound、Semgrep、Trivy | 面向网络安全的 Model Context Protocol

antgroup/Agent3Sigma-Canary

Agent3σ-Canary 是一个在真实运行时环境中评估 AI Agent 安全的框架。

weidutech/pi-recon

轻量级 AI 红队测试框架，用于授权的智能体/GenAI 挑战（BCTF Agent Plus 风格）：调度、有界侦察、验证、摘要。

role-confusion/prompt-injection-as-role-confusion

提示注入即角色混淆

DaoyuanLi2816/RepoGuardBench

对本地编码智能体面临的仓库来源提示注入攻击及轻量防御进行基准测试。DL4C @ ICML 2026。

genia-dev/vibraniumdome

LLM 安全平台

Yuning-J/CVE-KGRAG

混合知识图谱 + RAG 的安全情报平台，用于 CVE 分析和语义搜索，集成 Llama3。

fevziegeyurtsevenler/LLM-Security-Turkiye

土耳其语 AI 安全的开源框架：指南系列、实战学院、研究与实验、23+ 工具和 20 个 Hugging Face 数据集 + 模型。

trailofbits/anamorpher

面向多模态提示注入的图像缩放攻击

royapakzad/multilingual-ai-safety-evaluation

评估 LLM 在非英语语言下的安全性与性能。

arekusandr/last_layer

超快、低延迟的 LLM 提示注入/越狱检测

listen0425/Safety-Layers

论文《Safety Layers in Aligned Large Language Models: The Key to LLM Security》（ICLR 2025）的代码空间

doronp/agentshield-benchmark

AI 代理安全工具的开源基准——提示注入、数据外泄、工具滥用、来源追踪

zscole/bagman-skill

面向 AI 智能体的安全密钥管理模式——存储、会话密钥、泄露防护、提示词注入防御。

bountyyfi/invisible-prompt-injection

mdombrov-33/go-promptguard

面向 Go 应用的 LLM 提示注入检测

unica-mlsec/mlsec

机器学习安全硕博课程（卡利亚里大学）

benhagag10/Architecture-Matters-for-Multi-Agent-Security

论文《Architecture Matters for Multi-Agent Security》（ICML '26）的仓库

Agentic-AI-Risk-Mitigation/Janus

面向 LLM Agent 的系统级安全：对工具调用实施细粒度策略，以防御间接提示注入。

facebookresearch/prompt-siren

用于开发和测试针对大语言模型攻击的研究工作台，重点关注提示注入漏洞与防御。

xirui-li/DrAttack

论文官方实现：DrAttack：提示分解与重构打造强大的 LLM 越狱器

SecNode/AISecLists

AISecLists——你的 AI 红队武器库。发现精选的提示词列表集合，用于各类 AI 安全评估，包括 LLM 越狱、提示注入、信息泄露等

ZeroDayEvil/CVE-2026-41096-PoC

CVE-2026-41096（Windows DNSAPI.dll 堆溢出 / DNS-Mayhem 深度分析与审计模块）的官方 AI 安全工具模块。

jiaxiaojunQAQ/SkillJect

SkillJect：面向编码智能体的自动化隐蔽技能型提示词注入，采用轨迹驱动的闭环优化。

CloudDefenseAI/secure-agents-md

面向 AI 编码智能体的安全工作约定：加固的 AGENTS.md、提示词/工具注入防护、依赖卫生、符合 Scorecard 要求的开源配置。

AdamtayZzz/AI-security-related-paper-list

我在本科和研究生期间收集并阅读的论文

grepstrength/WideOpenAI

面向 OpenAI 模型的间接提示注入攻击简短清单。

facebookresearch/SecAlign

研究论文《SecAlign: Defending Against Prompt Injection with Preference Optimization》的仓库

Mai-xiyu/Codex-Prompt

Rational engineering system prompt for Codex and LLMs — focused on accuracy, software engineering, AI, security research, bug bounty, and reverse engineering. | 面向 Codex 与 LLM 的理性工程系统提示词：强调准确性、软件工程、AI、网络安全、漏洞研究与逆向工程。

Srajangpt1/ai-security-crew

面向 AI 编程智能体的安全，覆盖它们编写的代码和采取的操作。包含 MCP server、skills 和运行时防护。

haggaishachar/agentfence

AgentFence 是一个开源平台，用于自动测试 AI Agent 安全，可识别提示注入、密钥泄露和系统指令暴露等漏洞。

Gach0ng/AgentStalker

A standardized agent vulnerability benchmark, formal taint tracking proofs, and a cross-language unified AST model, integrating code auditing with sandbox reproduction into an all-in-one agent security approach. 一个标准化的 Agent 漏洞基准、形式化的污点追踪证明与跨语言的统一 AST 模型，集成代码审计到沙箱复现一体化的智能体安全范式。

In3tinct/Androidmeda

AI 安全工具，用于对 Android 应用进行反混淆并发现潜在漏洞。

myProjectsRavi/sentinel-protocol

开源 AI 安全防火墙，内置 81 个引擎，支持 PII 检测、提示注入防御、MCP 安全与出站分类，本地优先、零云依赖。

SproutNan/GuidedBench

引导式越狱基准的官方仓库。

fastino-ai/GLiGuard

Fastino 的 LLM 护栏。

scitix/Agent-Sandbox

面向 AI Agent 的快速、多云沙箱引擎

sahiloj/MCPScan

攻击性 MCP 服务器审计器：在 stdio、HTTP 和 SSE 传输中检测工具投毒、凭据泄露、RCE 向量、SSRF、会话劫持和供应链漏洞。

usail-hkust/JailTrickBench

Bag of Tricks：LLM 越狱攻击基准测试。LLM 越狱的实证技巧。（NeurIPS 2024）

jeanmalaquias/ai-governance-mapping

统一的 AI 治理控制目录，交叉映射 NIST AI RMF 1.1、EU AI Act、OWASP LLM Top 10 和 ISO/IEC 42001，附带 OPA 策略、模板和合规差距检查 CLI。

numbergroup/AgentGuard

A+ 级 AI 代理安全框架——针对提示注入、命令注入和 Unicode 绕过攻击的军用级防护

SantanderAI/autoguardrails

面向 LLM 护栏的对齐研究脚手架（autoresearch 风格）：在单一 policy.md 表面上进行搜索

AgentsID-dev/agentsid-scanner

面向 MCP 服务器的安全扫描器。对认证、权限、注入风险和工具安全性进行评级。agent 安全领域的灯塔。

requie/LLMSecurityGuide

保护大语言模型（LLM）的综合参考，涵盖 OWASP GenAI Top-10 风险、提示注入、对抗性攻击、真实事件和实用防御，并收录红队工具、防护栏和缓解策略目录，帮助开发者、研究人员和安全团队负责任地部署 AI

9hannahnine-jpg/arc-gate

Arc Gate —— 带提示注入检测的 LLM 代理。Bendex Geometry。

Nova-Hunting/nova-tracer

NOVA——针对提示注入攻击的 Claude Code 防护系统

eastmountyxz/LLM-security

该资源主要总结和积累大模型（LLM）及ChatGPT相关的安全学术论文或技术博客，希望对自己和大家有所帮助

anshug/claude-mythos

让 LLM 发现真实可利用漏洞的提示框架。六个专用 agent 分别覆盖侦察、搜寻、对抗性串联、漏洞利用验证、分诊和 AI 安全。

Ziyang-Zhang-6657/Attn-Defense

论文 Attn-Defense：面向间接提示注入的注意力引导检测、定位与移除的代码和数据。

lihouwenbin/ai-redteam-recursive-self-improvement

面向递归自我改进治理的领域无关 AI 红队框架。

dongdongunique/EvoSynth

EvoSynth 是 SOTA 自动化 LLM 红队测试框架，通过多智能体合成、进化搜索和自我纠错来演化可执行的代码级越狱攻击方法。

davidwillisowen/IPIM

间接提示注入方法论（IPIM）——安全专业人员可用于发现 LLM 中间接提示注入漏洞并产出 POC 的结构化流程。

SchwinnL/LLM_Embedding_Attack

对 LLM 实施嵌入攻击的代码。

gulbaki/jev-llm-guard

由 Jev 提供支持、带土耳其语交互演示的上下文 OWASP LLM 防护栏

ruvnet/Agent-Name-Service

由 OWASP GenAI Security Project 提出的 Agent Name Service（ANS）协议，是一个用于促进 AI agent 之间安全发现与交互的基础框架。

xyq7/FedREDefense

ICML 2024《FedREDefense：利用模型更新重建误差防御联邦学习中的模型投毒攻击》的官方代码

Harrishayy/Cereberus

与 Cisco 联合构建：智能体安全的未来（在内核层面强制执行）

Dormant-Neurons/llm-pitfalls

NDSS'26 论文《Chasing Shadows: Pitfalls in LLM Security Research》的配套材料。

SheltonLiu-N/Universal-Prompt-Injection

预印本论文《Automatic and Universal Prompt Injection Attacks against Large Language Models》的官方实现。

ZhengyuZhao/AI-Security-and-Privacy-Events

AI 安全与隐私学术活动精选列表

anishathalye/ai-agent-security-lecture

MIT 6.566 课程中关于 AI Agent 安全的客座讲座。

AnchoretY/AI_Security_Library

Ai与Web安全相关资料的总结库，包括认为写的比较好的一些博客、项目、数据等

DMontgomery40/mcp-security-scanner

用 MCP 插件构建的安全漏洞扫描器

X-Scale-AI/GRITS

开源 AI Agent 安全框架，可对 AI Agent 进行评分、加固和治理，基于 DoD/DISA 零信任原则构建。

nshportun/BestTester

生产级 Playwright + TypeScript QA 框架，具备 AI 驱动测试、LLM-as-Judge 评估、MCP 服务器、7 个 CLI 代理、安全模糊测试、CI/CD 流水线、Jira 同步和 Slack 报告——零配置、即插即用。

Mixture-of-RAGs-Security-Experts/MoRSE

MoRSE（Mixture of RAGs Security Experts），首个面向网络安全的专用 AI 聊天机器人，旨在提供全面完整的网络安全知识。

77QAlab/prompt-injections

映射到 OWASP LLM Top 10 2025 和 MITRE ATLAS 的 AI/LLM 安全测试库。按领域组织 191 个载荷，并集成 CI/CD，面向受监管行业。

arkanemystic/lean-agent-protocol

为金融智能体形式化的 AI 护栏，用 Lean 4 数学证明取代概率性过滤器，确保只有可证明合规的动作才能执行。

KazKozDev/system-prompt-benchmark

面向 LLM 安全的自动化红队测试工具，评估系统提示词对提示注入、越狱和数据外泄攻击的抵御能力。

olanokhin/openresearch-mcp

零认证、安全加固的跨领域研究 MCP 服务器：网页、学术、GitHub、新闻、天气、宏观/金融、SEC、生物医学、Bluesky、YouTube。具备 SSRF 与提示注入防御。

kaijiezhu11/MELON

[ICML'25] MELON：针对 AI 智能体中间接提示词注入攻击的可证明防御。

1Password/SCAM

SCAM——安全意识度量 | 开源基准，在贴近真实的多轮工作任务中测试 AI 代理的安全意识。

rdz98/FedRecAttack

针对联邦推荐的模型投毒攻击

NIKHIL-KASHMEERABEN-RUPALA/Neural_Forge

NeuralForge 是端到端的 LLM 微调与服务平台。它利用 LoRA（PyTorch/Hugging Face）进行领域适配，相比基础模型降低错误率。具备自动化 MLflow 评估框架，在 AI 护栏下跟踪准确率、延迟和幻觉情况，并通过 CI/CD 部署在 vLLM、Docker 和 Kubernetes 上以实现高吞吐。

LukeChen-go/indirect-pia-detection

论文《Can Indirect Prompt Injection Attacks Be Detected and Removed?》的官方实现。

LegioX-Cyber-Technologies/DeceptivGuard

欺骗式 LLM 防护栏，对感知到的对抗性查询进行欺骗而非拒绝。

Norrrrrrr-lyn/WAInjectBench

面向 Web 智能体的提示注入检测基准测试

NaviRocker/llm-red-teaming-dataset

用于评估和改进 LLM 安全机制的红队提示综合数据集

leizhao7/livepi

LivePI：更贴近真实场景的智能体间接提示注入基准测试

ShenzheZhu/JailDAM

[COLM 2025] JailDAM：面向视觉语言模型、带自适应记忆的越狱检测。

yi-john-huang/openclaw-secure-stack

🔒 一条命令完成 OpenClaw 安全部署，内置技能扫描器和提示词注入防护。

Coff0xc/LLM-Security-Assessment-Framework

FORGEDAN——LLM 安全评估的进化框架 | 6 种攻击方法 | 18 个模型适配器 | Vue 3 仪表盘 | Web 安全扫描

NetSPI/Open-LLM-Security-Benchmark

hack-umbrella/LLM-Security-Toolkit

把AI安全从"艺术"变成"科学" - 全面的LLM安全工具包

ylhz/Adversarial_Attacks_and_Defense_NeurIPS2022

NeurIPS 2022 中与对抗攻击与防御/AI 安全相关的论文列表。

jeremy313/FL-WBC

《FL-WBC：从客户端视角增强联邦学习对模型投毒攻击的鲁棒性》的官方实现。

antojoseph/adv26

本仓库将更新 Defcon 2026 对抗村 AI 红队实验室材料

mega-edo/mega-security-leaderboard

比较 LLM 智能体在系统提示词泄露与攻击探测方面安全性的排行榜。

EresusSecurity/Eresus-sentinel

AI/LLM 安全扫描器 —— 模型产物分析、提示注入防火墙、MCP agent 校验、pickle/safetensors/GGUF 模糊测试。零误报。

NeuralTrust/echo-chamber

Echo Chamber LLM 越狱的代码与示例。

nevinshine/telos-runtime

闭环安全运行时，防止自主 AI Agent 中的“The Great Exfiltration”和间接提示注入。

theshi-1128/jailbreak-bench

迄今为止最全面、最准确的 LLM 越狱攻击基准。

inspire-group/ModelPoisoning

论文《Analyzing Federated Learning through an Adversarial Lens》的配套代码。

ModelContextProtocol-Security/modelcontextprotocol-security.io

Model Context Protocol Security 倡议的官方网站与文档中心。提供安全指南、最佳实践、工具和社区资源，帮助安全部署 MCP 服务器与 AI 智能体。Cloud Security Alliance 社区项目。

h9-tec/agentic-rag-security-lab

mihirahuja1/agentnestOSS

开源 agent 沙箱

Leviticus-Triage/cerebro-red-v2

CEREBRO-RED v2：采用 PAIR 算法和 LLM-as-a-Judge 评估的高级 LLM 红队研究平台。

PurduePAML/Machine-Learning-Security-Seminar

普渡大学机器学习与安全研讨会

vrt1shjwlkr/NDSS21-Model-Poisoning

NDSS 2021 论文《Manipulating the Byzantine: Optimizing Model Poisoning Attacks and Defenses Against Federated Learning》的代码。

YihanWang617/LLM-Jailbreaking-Defense-Backtranslation

论文《Defending against LLM Jailbreaking via Backtranslation》的代码

isartor-ai/Isartor

开源提示词防火墙——在流量离开你的基础设施之前拦截多达 95% 的冗余 LLM 请求。文档：https://isartor-ai.github.io/Isartor/index.html

gensecaihq/MCP-Developer-SubAgent

面向 MCP 开发的专用框架，包含 8 个 Claude Code 子代理、安全钩子与生产可用的 FastMCP 服务器模板，通过 markdown 驱动的代理提供即时开发辅助。

Arnoldlarry15/ARES-Dashboard

AI 红队运营控制台

0x0pointer/seraph

seraph AI 防护栏「不打一场，你无法真正了解一个人」

dleerdefi/llm-security-auditor

通用 LLM 安全审计工具，支持自动化越狱测试、DSPy 优化以及对齐 OWASP 2025 的攻击模式。

aryakvnust/LLMSecGuard

面向代码的 LLM 安全防护

dcarpintero/pangolin-guard

基于 ModernBERT 的轻量级自托管 AI 护栏模型。

mirseo/string-formatter

用 Rust 编写的高性能字符串格式化器。该项目可检测并阻止 LLM 提示注入和越狱攻击，还提供可定制的基于规则的系统，并能防御混淆式提示攻击。

yihedeng9/DuoGuard

DuoGuard：一个双玩家强化学习驱动的多语言 LLM 护栏框架。

YihanWang617/llm-jailbreaking-defense

一个用于大语言模型（LLM）越狱防御的轻量级库。

GURPREETKAURJETHRA/LLM-SECURITY

针对 OWASP 2024 大型语言模型十大漏洞的防护方案。

PacktPublishing/Machine-Learning-Security-Principles

《机器学习安全原则》，由 Packt 出版

zaixizhang/FLDetector

KDD22 论文《FLDetecotor：通过检测恶意客户端防御联邦学习中的模型投毒攻击》的官方代码

abhisheksaxena1998/Malicious-Urlv5

一个多层多级机器学习安全解决方案，支持常开检测系统，使用 Django REST framework，并配有通过 REST API 调用的浏览器扩展。

Siddharth-1001/llm-security-scanner

一款轻量工具，扫描集成 LLM 的代码库以查找 OWASP LLM Top 10 漏洞——提示注入模式、不安全的输出处理等。

bcdannyboy/PromptMatryoshka

多提供商 LLM 越狱研究框架。

Yunhao-Feng/AgentBackdoorBench

AI Agent 安全相关论文

jeremy313/non-iid-dataset-for-personalized-federated-learning

《FL-WBC：从客户端视角增强联邦学习对模型投毒攻击的鲁棒性》的官方实现。

ahow2004/injectlab

面向对抗性 LLM 安全研究的开源 ATT&CK 风格框架与测试套件

NextWordDev/psychoevals

PsychoEvals 的仓库——一个用于 LLM 安全、心理分析和内容审核的框架。

TenXxs/AI-Security-for-IoT-and-Mobile

JosephTLucas/airt_utils

面向以实验为中心的 AI 红队工作流的实用工具

ZiyueWang25/llm-security-challenge

大型语言模型能解决安全挑战吗？我们利用 OverTheWire wargames 环境测试 LLM 与 shell 环境交互并从中逃逸的能力，展示了模型在 shell 环境中执行面向行动的网络攻击的惊人能力。