看开源

brave/bravebot

Coding agent with structural resistance to indirect prompt injection

OWASP/www-project-top-10-for-large-language-model-applications

面向大型语言模型应用的 OWASP Top 10（GenAI 安全项目的一部分）。

motan1337/universal-bypass-for-claude-chatgpt-qwen-deepseek-llm-claude-code-codex

Carefully human hand written llm jailbreaks for the latest models that are available on the market. GPT-6 Astra, GPT-6.1 SoL, Opus 4.7, Opus 4.6, Sonnet 4.6, Haiku 4.5, Deepseek V4, Deepseek Flash, DeepSeek V4.1 Pro / Flash, Qwen 3.8 MAX, Qwen 3.8 Omni-Flash, Qwen 3.7 etc

joey-melo/payloads

用于 AI 红队及其他用途的载荷集合

Tox1469/ai-prompt-guard

面向 LLM 应用的提示注入检测和加权 strike 锁定，支持英语和葡萄牙语，零运行时依赖。

OWASP/www-project-machine-learning-security-top-10

OWASP 机器学习安全 Top 10 项目

peluche/deck-of-many-prompts

手动提示注入 / 红队测试工具

mavhezha/htb-ai-red-teamer

amirimi/Guardian

可扩展的 Go 微内核，用于 LLM 护栏、配额执行和策略插件。

Asstar-X/JailPrompter

专注于 大语言模型（LLM）提示词攻防（Prompt Attack & Defense）与提示词越狱（Prompt Jailbreak）研究的开源项目。

AdityaBhatt3010/Hacking-Lakera-Gandalf-AI-via-Prompt-Injection

Lakera Gandalf AI 挑战的逐步通关解析，展示真实世界的提示注入技术和 LLM 安全洞见。

AdityaBhatt3010/When-LinkedIn-Gmail-Obey-Hidden-AI-Prompts-Lessons-in-Indirect-Prompt-Injection

真实案例展示配置文件和邮件中的隐藏指令如何诱使 AI 产生意外输出，揭示间接提示注入的隐蔽风险。

AI-Security-Research-Group/LLM-Attacks

AI 安全漏洞、LLM 对抗攻击、提示注入技术和机器学习安全研究的综合分类体系。涵盖 71 种以上攻击向量，包括模型投毒、agentic AI 漏洞利用和隐私泄露。

OTRF/GenAI-Security-Adventures

TakSec/AI-Red-Teaming-Everything

AI 红队大全仓库，提供对 AI 系统进行红队测试的技术，重点关注安全性和偏见。

neveratech/owasp-llm-top10-tr

OWASP GenAI LLM Top 10 2026——非官方土耳其语翻译（CC BY-SA 4.0）

AiGptCode/Ai-Security-URL

用于利用常见 Web 应用漏洞的函数，如 SQL 注入、跨站脚本（XSS）、服务端请求伪造（SSRF）和路径遍历。

hswtnb-blip/prompt-authgate

Claude Code prompt injection defense via source authentication tokens. UserPromptSubmit hookでユーザー入力にのみ認証トークンを付与し、ファイル/Web/MCP経由の間接入力を信頼しない軽量実装。

FloTeu/mr-injector

Mr. Injector 是一个 GitHub 仓库，用于提供大语言模型（LLM）安全漏洞的实践体验

awiseguy88/openclaw-advanced-prompt-injection-defense-system

这是首个 openclaw 提示注入防御系统

nuryslyrt/AISecTips-Tricks

AI 红队与蓝队技巧合集！

CoworkedShawn/openclaw-skills

为 AI agent 能力定制的 OpenClaw 技能——记忆系统、提示注入防御、意图路由和平台集成

anshumanbh/cyber-safari

一个用于理解 AI 安全 Agent 的有趣 POC。

AdityaBhatt3010/BurpSuite-Lab-Indirect-Prompt-Injection

把一条产品评论变成了无声的刺客——Carlos 完全没料到。

jiangnanboy/llm_security

利用分类法和敏感词检测法对生成式大模型的输入和输出内容进行安全检测，尽早识别风险内容。The input and output contents of generative large model are checked by classification method and sensitive word detection method to identify content risk as early as possible.

williamdevena/Defending-federated-learning-system

实现客户端信誉、梯度检查与同态加密机制，用于防御联邦学习系统遭受的数据/模型投毒和逆向工程攻击。

LLMPID/LLMPID-AS

LLM 提示注入检测 API 服务概念验证