LouisShark/chatgpt_system_prompt
GPT 系统提示词合集以及各种提示注入/泄露知识
看开源
AI 安全相关的开源项目、工具与仓库动态，按内容类型筛选，支持搜索。
分类筛选1展开收起
找到 21 个
HTML · MIT新★ 10,829
Python · MIT新★ 527 agencyenterprise/PromptInject
PromptInject 是一个以模块化方式组装提示词的框架，用于定量分析 LLM 对对抗性提示攻击的鲁棒性。🏆 获 NeurIPS ML Safety Workshop 2022 最佳论文奖
MIT新★ 47 CollieAi/llm-firewall
AI 防火墙与 LLM 安全工具包——保护 AI 应用免受提示注入、越狱、PII 泄露和对抗性攻击
Jupyter Notebook · MIT新★ 714 calmrocks/ai-engineer-notebooks
面向 AI 工程师/前向部署工程师（FDE）技能集的实战型无框架 Colab notebook——涵盖模型 API、结构化输出、工具调用、RAG、以评估为主线的流程、agent（从零实现循环、工具设计、防护栏、MCP、Skills）、微调与 LoRA 对比、提示注入/安全、LLMOps 和客户沟通技巧，可在免费的 Groq API 上运行。
MIT新★ 370 yunwei37/prompt-hacker-collections
prompt attack-defense, prompt Injection, reverse engineering notes and examples | 提示词对抗、破解例子与笔记
Batchfile新★ 91 buryusu/All-AI-Jailbreaks
面向 AI 模型鲁棒性研究、红队演练和防御评估的越狱与提示注入实验精选归档。
#C03 AI红队测试研究 / 基准adversarial-promptsai-robustnessai-safetyjailbreak-researchllm-securitymodel-evaluation
HTML新★ 43 mirzayasirabdullahbaig07/PromptGuard-AI
PromptGuard 是单文件 AI 安全平台，实时扫描用户提示并将其分类为 SAFE、SUSPICIOUS 或 DANGEROUS
TypeScript · MIT新★ 77 promptfoo/promptfoo-action
Promptfoo 的 GitHub Action，用于测试提示、代理与 RAG，支持 AI 红队、渗透测试与 LLM 漏洞扫描，可对比 GPT、Claude、Gemini、Llama 等模型表现，配置简单并集成命令行与 CI/CD。
Python · GPL-3.0新★ 30 genia-dev/vibraniumdome
LLM 安全平台
Jupyter Notebook新★ 101 erfnzdeh/MCI-LLM-Security-Hackathon
Prompt Police 团队在 MCI 的 LLM 安全黑客松（Quera，2025 年 11 月）中的比赛日记：通过跨语言、音译和框架攻击越狱 14 个禁止领域的安全防护模型。
Python · MIT新★ 138 arekusandr/last_layer
超快、低延迟的 LLM 提示注入/越狱检测
Python · BSD-2-Clause新★ 81 HumanCompatibleAI/tensor-trust
一个提示注入游戏，用于收集数据以开展稳健的机器学习研究
GitHub新★ 99 Mai-xiyu/Codex-Prompt
Rational engineering system prompt for Codex and LLMs — focused on accuracy, software engineering, AI, security research, bug bounty, and reverse engineering. | 面向 Codex 与 LLM 的理性工程系统提示词：强调准确性、软件工程、AI、网络安全、漏洞研究与逆向工程。
Go新★ 10 amirimi/Guardian
可扩展的 Go 微内核，用于 LLM 护栏、配额执行和策略插件。
MIT新★ 16 AdityaBhatt3010/Hacking-Lakera-Gandalf-AI-via-Prompt-Injection
Lakera Gandalf AI 挑战的逐步通关解析，展示真实世界的提示注入技术和 LLM 安全洞见。
GitHub新★ 201 forcesunseen/llm-hackers-handbook
LLM 攻击指南：基础知识、提示注入、攻击与防御。
TypeScript · MIT新★ 80 securelayer7/PROMPTPurify
面向 LLM 应用的提示注入防护栏，紧凑模型性能超过更大的开源防护模型，不依赖正则和特征签名，演示地址：anton.securelayer7.net
Python · MIT新★ 17 KazKozDev/system-prompt-benchmark
面向 LLM 安全的自动化红队测试工具，评估系统提示词对提示注入、越狱和数据外泄攻击的抵御能力。
Python · Apache-2.0新★ 45 MaxMLang/pytector
易用的 LLM 提示注入检测与提示输入净化 Python 包，支持本地模型、基于 API 的防护、工具调用防护和 LangChain 防护栏
Python新★ 13 bcdannyboy/PromptMatryoshka
多提供商 LLM 越狱研究框架。
Go · AGPL-3.0新★ 10 LLMPID/LLMPID-AS
LLM 提示注入检测 API 服务概念验证
#C02 AI对抗防御项目large-language-modelsllmllm-securityprompt-engineeringprompt-injectionprompt-injection-detector