LouisShark/chatgpt_system_prompt
GPT 系统提示词合集以及各种提示注入/泄露知识
看开源
AI 安全相关的开源项目、工具与仓库动态，按内容类型筛选，支持搜索。
分类筛选展开收起
共 24 个项目 · 快照于 10/30 10:12
HTML · MIT新★ 10,829 C++ · Apache-2.0新★ 1,739 openappsec/openappsec
open-appsec 是一个机器学习安全引擎，可主动自动防御针对 Web 应用和 API 的威胁。本仓库包含主要代码和逻辑。
GitHub新★ 518 Alejandros17487/ai-jailbreaks
AI jailbreaks: 35 paste-ready AI jailbreak prompts for 25+ frontier and open-weight models - system prompts, AGENTS.md specs, and Ollama Modelfiles. Built for AI security research and red-team testing.
GitHub新★ 174 gally16/LLM-Jailbreaking-Guide
LLM Jailbreaking Guide主流大语言模型越狱指南
GitHub新★ 612 jthack/PIPE
面向工程师的提示注入入门指南
Python新★ 14 db0109/AI-Red-Team-Scripts-And-Checklist
我用于 AI 红队的脚本和速查表，其中许多脚本和速查表基础来自 Digital Andrew。
MIT新★ 155 GhostWolfLab/AI_Security_Top
打造最强的AI安全文档
JavaScript · MIT新★ 28 0din-ai/sidekick
0DIN Sidekick 是一款面向 AI 安全研究人员的 Firefox/Chromium 扩展，可简化跨多个提供商的 LLM 越狱测试与漏洞发现。
MIT新★ 831 slowmist/MCP-Security-Checklist
面向基于 MCP 的 AI 工具的全面安全清单，由 SlowMist 构建，用于保护 LLM 插件生态。
Python · Apache-2.0新★ 11 rewanthtammana/Who-Let-The-Agents-Act
Who Let the Agents Act? 是一个交互式智能体安全实验环境，探索 AI 智能体如何使用工具、访问数据和做出决策。通过对比存在漏洞、仅靠提示词和加固后的智能体，说明为什么提示词不是安全边界，以及授权、最小权限、数据投影、输出控制等如何保障智能体安全。
Rust · Apache-2.0新★ 36 onsails/right-agent
运行在你的 Claude 订阅上的智能体。多智能体，默认沙箱隔离。精致的 Telegram 界面。
JavaScript · AGPL-3.0新★ 199 MCP-Manager/MCP-Security-Checklists
GitHub新★ 67 SecureCodeWarrior/ai-security-rules
该仓库包含供 AI 辅助开发工具使用的安全规则文件。
TypeScript · MIT新★ 27 tomabai/llm-sec
用于理解和测试 LLM 安全漏洞的动手学习平台。
Jupyter Notebook新★ 43 zroe1/xlab-ai-security
由 UChicago 的 XLab 创建的在线 AI 安全课程。
GitHub新★ 201 forcesunseen/llm-hackers-handbook
LLM 攻击指南：基础知识、提示注入、攻击与防御。
Python新★ 65 nayangoel/PromptInjector
面向 AI 系统的全面防御性安全测试工具。PromptInjector 通过静态和自适应提示的系统化测试，帮助发现提示注入漏洞。
Python新★ 25 Repello-AI/mcp-exploit-demo
此仓库演示了 MCP（Model Context Protocol）服务器中的一处安全漏洞，可通过工具投毒实现远程代码执行与数据外泄。
C · Apache-2.0新★ 32 openappsec/attachment
在提供 HTTP 数据的进程与 open-appsec Agent 安全逻辑之间建立连接的附件。
Python · NOASSERTION新★ 60 MicroAIInc/MicroAI-Security-and-Monitoring
Python · MIT新★ 14 fabriciojoc/2021-Machine-Learning-Security-Evasion-Competition
2021 机器学习安全逃逸竞赛。
Python · Apache-2.0新★ 257 dropbox/llm-security
Dropbox 的 LLM 安全研究代码与结果
Python · MIT新★ 14 Aembit/agentic-ai-security-starter-kit
用于防御 Agentic AI 威胁的可运行代码示例：提示注入检测、Claude Code hooks、OPA 策略和沙箱配置。可直接复制使用，MIT 许可。
MIT新★ 22 Helixar-AI/mcp-security-checklist
MCP 正被快速采用，安全指引却相对滞后。这份清单为安全工程师、平台团队和技术负责人提供清晰可执行的基线，用于保障 MCP 部署安全，无论你是在交付内部工具还是面向客户的 AI agent。