Zwony/RedAgent
Enterprise-grade automated AI Agent Red Teaming & Security Auditing platform targeting OWASP Top 10 for LLMs.
看开源
AI 安全相关的开源项目、工具与仓库动态，按内容类型筛选，支持搜索。
分类筛选1展开收起
找到 16 个
Python · NOASSERTION新★ 15 Python · MIT新★ 31 emmanuelgjr/genai_incidents
生成式 AI 与 Agentic AI 安全事件的单一事实来源，映射到 OWASP LLM Top 10、OWASP Agentic Top 10（ASI）、NIST AI RMF 和 MITRE ATLAS。
Python · MIT新★ 113 thomasunise/argus
Open-source agentic security operations platform:
#C03 AI红队测试研究 / 基准agentic-aiagentic-securityagentic-workflowcyber-securitycyber-threat-intelligencecybersecurityPython · Apache-2.0新★ 468 PrismorSec/prismor
面向 AI 代理的自托管运行时控制平面。在恶意工具调用执行前进行观察、人工审批或阻断：密钥泄露、提示注入、供应链等，均在本地仪表盘中处理。与代理无关（Claude、codex、langchain 等）。
TypeScript · MIT新★ 48 mythos-agent/mythos-agent
AI 安全代理守护你的代码。
GitHub新★ 741 tldrsec/prompt-injection-defenses
针对提示注入的各种实用与提议防御方案。
Jupyter Notebook · MIT新★ 67 sinanw/llm-security-prompt-injection
该项目通过对一组输入提示进行二分类来研究大语言模型的安全性，以发现恶意提示。已使用经典机器学习算法、预训练 LLM 模型和微调 LLM 模型分析多种方法。
JavaScript · MIT新★ 34 hackersatyamrastogi/pentesting-cyber-mcp
50+ 个用于 AI 驱动渗透测试的 MCP 安全服务器 | 集成 Nmap、Burp Suite、Nuclei、Shodan、BloodHound、Semgrep、Trivy | 面向网络安全的 Model Context Protocol
GitHub新★ 99 Mai-xiyu/Codex-Prompt
Rational engineering system prompt for Codex and LLMs — focused on accuracy, software engineering, AI, security research, bug bounty, and reverse engineering. | 面向 Codex 与 LLM 的理性工程系统提示词：强调准确性、软件工程、AI、网络安全、漏洞研究与逆向工程。
NOASSERTION新★ 13 X-Scale-AI/GRITS
开源 AI Agent 安全框架，可对 AI Agent 进行评分、加固和治理，基于 DoD/DISA 零信任原则构建。
Python · Apache-2.0新★ 11 olanokhin/openresearch-mcp
零认证、安全加固的跨领域研究 MCP 服务器：网页、学术、GitHub、新闻、天气、宏观/金融、SEC、生物医学、Bluesky、YouTube。具备 SSRF 与提示注入防御。
Python · MIT新★ 24 Coff0xc/LLM-Security-Assessment-Framework
FORGEDAN——LLM 安全评估的进化框架 | 6 种攻击方法 | 18 个模型适配器 | Vue 3 仪表盘 | Web 安全扫描
Python · MIT新★ 10 mirseo/string-formatter
用 Rust 编写的高性能字符串格式化器。该项目可检测并阻止 LLM 提示注入和越狱攻击，还提供可定制的基于规则的系统，并能防御混淆式提示攻击。
MIT新★ 23 GURPREETKAURJETHRA/LLM-SECURITY
针对 OWASP 2024 大型语言模型十大漏洞的防护方案。
Python新★ 46 abhisheksaxena1998/Malicious-Urlv5
一个多层多级机器学习安全解决方案，支持常开检测系统，使用 Django REST framework，并配有通过 REST API 调用的浏览器扩展。
Python · Apache-2.0新★ 13 ZiyueWang25/llm-security-challenge
大型语言模型能解决安全挑战吗？我们利用 OverTheWire wargames 环境测试 LLM 与 shell 环境交互并从中逃逸的能力，展示了模型在 shell 环境中执行面向行动的网络攻击的惊人能力。