看开源

ZeroDayEvil/ai-security-tool

免费开源、AI 驱动的安全终端与漏洞扫描器（CVE、SBOM）。支持 SSH、SFTP、RDP、VNC、串口，以及 12+ 个自主 AI agent（DeepSeek、OpenAI），用于自动化安全工作流、CTF 和 DevSecOps，跨平台并带 Web UI。

Yeti-791/Awesome-Offensive-AI-Agentic-Landscape

本文档汇集了 AI 渗透测试、LLM 红队、自主攻击代理和漏洞发现领域的开源项目、学术论文、能力基准及商业解决方案（国际与中国），旨在帮助研究人员、安全工程师和企业决策者快速形成全局认识。

0sec-labs/0

Open-source AI security harness. Includes a web UI for code analysis, pentesting, vulnerability research, reverse engineering, verification, and fixing + CLI and MCP for agents.

FLIAZ/SpiritScout

灵枢（SpiritScout）｜基于 LLM 的多智能体安全测试系统，通过动态任务规划与专项智能体协作，支持 SRC 漏洞挖掘、CTF 解题与自动化渗透测试。An LLM-powered multi-agent security testing system for vulnerability research, CTF solving, and penetration testing, with dynamic task planning and parallel collaboration.

google/mcp-security

Zwony/RedAgent

Enterprise-grade automated AI Agent Red Teaming & Security Auditing platform targeting OWASP Top 10 for LLMs.

emmanuelgjr/genai_incidents

生成式 AI 与 Agentic AI 安全事件的单一事实来源，映射到 OWASP LLM Top 10、OWASP Agentic Top 10（ASI）、NIST AI RMF 和 MITRE ATLAS。

thomasunise/argus

Open-source agentic security operations platform:

PrismorSec/prismor

面向 AI 代理的自托管运行时控制平面。在恶意工具调用执行前进行观察、人工审批或阻断：密钥泄露、提示注入、供应链等，均在本地仪表盘中处理。与代理无关（Claude、codex、langchain 等）。

The-Art-of-Hacking/h4cker

此仓库由 Omar Santos（@santosomar）维护，收录数千份与道德黑客、漏洞赏金、数字取证与事件响应（DFIR）、AI 安全、漏洞研究、漏洞利用开发、逆向工程等相关的资源。另见：https://hackertraining.org

pazo01/awesome-cyber-ai-arsenal

精选的攻击性、防御性及 AI/LLM 安全工具合集。

Mr-Infect/AI-penetration-testing

由 Mr-Infect 打造的 AI/ML/LLM 渗透测试工具集——GitHub 上 AI 安全、红队和对抗性机器学习技术的首选资源。该仓库专注于针对前沿 AI、机器学习（ML）和大语言模型（如 ChatGPT、Claude、LLaMA）的攻防安全。

SagarBiswas-MultiHAT/The-BlackHAT-roadmap

完整的黑客与渗透测试路线图，从入门到精英。44,982 行、150+ 张图表，覆盖 OPSEC、Web 安全、Active Directory、二进制漏洞利用、EDR 规避和 0-day 研究。包含 300+ 工具、200+ MITRE 技术、C 与 Rust payload、实验指南、书籍、课程、博客、练习平台和 AI 安全资源。

digitranslab/allama

AI 安全自动化平台。可构建可视化工作流、部署自主 agent，并自动化威胁检测与响应，提供 80 多个与 SIEM、EDR、工单和云工具的集成，是自托管 SOAR 的替代方案。

ProjectRecon/awesome-ai-agents-security

AI 智能体安全生态的实时全景图

CollieAi/llm-firewall

AI 防火墙与 LLM 安全工具包——保护 AI 应用免受提示注入、越狱、PII 泄露和对抗性攻击

TaroYamada08/Hacker

This repository is maintained by Taro and includes thousands of resources related to ethical hacking, bug bounties, digital forensics and incident response (DFIR), AI security, vulnerability research, exploit development, reverse engineering, and more. 🔥 Also check: https://hackertraining.org

mythos-agent/mythos-agent

AI 安全代理守护你的代码。

tldrsec/prompt-injection-defenses

针对提示注入的各种实用与提议防御方案。

Unclecheng-li/DeepSec

DeepSec —— AI 安全攻防平台。Shield 实时审计 AI 生成的代码，检查幻觉包、缺失防护和 AI 模式错误。Spear 用 40+ 技能包自动化授权渗透测试，从侦察到 PoC。

TalEliyahu/Awesome-AI-Security

保护 AI 系统的精选资源、研究与工具

martian56/redcell

AI 红队平台。自主 LLM 智能体在 Kali 容器内端到端执行渗透测试并撰写报告。采用 LangGraph 计划/执行引擎，通过 LiteLLM 接入各厂商模型，输出 PDF/JSON/SARIF。技术栈为 FastAPI + React。

sinanw/llm-security-prompt-injection

该项目通过对一组输入提示进行二分类来研究大语言模型的安全性，以发现恶意提示。已使用经典机器学习算法、预训练 LLM 模型和微调 LLM 模型分析多种方法。

frangelbarrera/Awesome-Hacking-with-AI

一份以证据为导向的精选指南，涵盖 AI 赋能安全与 AI 自身安全。包括防御研究、智能体安全、MCP 安全、AI 红队测试与评估、授权测试工作流和检测工程

hackersatyamrastogi/pentesting-cyber-mcp

50+ 个用于 AI 驱动渗透测试的 MCP 安全服务器 | 集成 Nmap、Burp Suite、Nuclei、Shodan、BloodHound、Semgrep、Trivy | 面向网络安全的 Model Context Protocol

dreadnode/AIRTBench-Code

AIRTBench 的代码仓库：衡量语言模型自主 AI 红队能力

MCP-Manager/MCP-Security-Checklists

DmitrL-dev/AISecurity

开源 AI 安全实验室：英俄双语学院、公开的 Rust 防御、研究与本地输入评估。通过 Spectorn 体验实时防护

pasquini-dario/project_mantis

Project Mantis：反向攻击 AI 黑客；将提示注入作为抵御 LLM 驱动网络攻击的防御手段

SyedAnas01/mcp-safeguard

🛡️ 面向 MCP (Model Context Protocol) 服务器的安全扫描器——提示注入、凭据暴露、SSRF、工具投毒及源码级凭据处理缺陷。pip install mcp-safeguard

Mai-xiyu/Codex-Prompt

Rational engineering system prompt for Codex and LLMs — focused on accuracy, software engineering, AI, security research, bug bounty, and reverse engineering. | 面向 Codex 与 LLM 的理性工程系统提示词：强调准确性、软件工程、AI、网络安全、漏洞研究与逆向工程。

xyun92/trilane

TriLane：自主 AI 渗透测试器和多 agent 安全审计器，用于对 Web 应用和 API 进行经授权的灰盒测试，使用 Rust 和 Tauri 构建。

Panda1847/ai-security-lab

高级 AI/LLM 安全测试框架。包含 50 多种越狱技术、提示注入工具，以及面向 GPT-4、Claude、Gemini 等的自动化漏洞扫描器。

sonuoffsec/AI-Security-Hub

综合性 AI 安全中心，汇集载荷、速查表、动手实验、安全工具、MCP 安全、RAG 安全、智能体安全、CTF 挑战和研究资源

AdityaBhatt3010/Hacking-Lakera-Gandalf-AI-via-Prompt-Injection

Lakera Gandalf AI 挑战的逐步通关解析，展示真实世界的提示注入技术和 LLM 安全洞见。

AdityaBhatt3010/When-LinkedIn-Gmail-Obey-Hidden-AI-Prompts-Lessons-in-Indirect-Prompt-Injection

真实案例展示配置文件和邮件中的隐藏指令如何诱使 AI 产生意外输出，揭示间接提示注入的隐蔽风险。

X-Scale-AI/GRITS

开源 AI Agent 安全框架，可对 AI Agent 进行评分、加固和治理，基于 DoD/DISA 零信任原则构建。

TalEliyahu/AI-Security-Newsletter

AI 安全月报，汇总 AI 安全研究、洞察、报告、活动及工具资源。

FareedKhan-dev/agentic-security-pipeline

一个自主智能体流水线，使用单个 7B 开源 LLM（Qwen2.5-Coder）在 vLLM 上端到端地发现、验证并修补真实的 C 语言内存安全漏洞，并以 AddressSanitizer 作为真值判定器。

olegnazarov/rag-security-scanner

RAG/LLM 安全扫描器，可识别 AI 应用（包括聊天机器人、虚拟助手和知识检索系统）中的关键漏洞。

olanokhin/openresearch-mcp

零认证、安全加固的跨领域研究 MCP 服务器：网页、学术、GitHub、新闻、天气、宏观/金融、SEC、生物医学、Bluesky、YouTube。具备 SSRF 与提示注入防御。

MicroAIInc/MicroAI-Security-and-Monitoring

Coff0xc/LLM-Security-Assessment-Framework

FORGEDAN——LLM 安全评估的进化框架 | 6 种攻击方法 | 18 个模型适配器 | Vue 3 仪表盘 | Web 安全扫描

mcp-security-standard/mcp-server-security-standard

MCP Server Security Standard（MSSS）：一套开放、可测试的安全控制标准，用于认证 MCP 服务器，包含分级、证据要求和报告模式。

mirseo/string-formatter

用 Rust 编写的高性能字符串格式化器。该项目可检测并阻止 LLM 提示注入和越狱攻击，还提供可定制的基于规则的系统，并能防御混淆式提示攻击。

GURPREETKAURJETHRA/LLM-SECURITY

针对 OWASP 2024 大型语言模型十大漏洞的防护方案。

abhisheksaxena1998/Malicious-Urlv5

一个多层多级机器学习安全解决方案，支持常开检测系统，使用 Django REST framework，并配有通过 REST API 调用的浏览器扩展。

ZiyueWang25/llm-security-challenge

大型语言模型能解决安全挑战吗？我们利用 OverTheWire wargames 环境测试 LLM 与 shell 环境交互并从中逃逸的能力，展示了模型在 shell 环境中执行面向行动的网络攻击的惊人能力。