Tcotl/DVLAA
DVLAA（Damn Vulnerable LLM and Agent Application）是一个本地 LLM 与 Agent 安全靶场，用于 OWASP LLM Top 10 和 Agent 安全培训。
看开源
AI 安全相关的开源项目、工具与仓库动态，按内容类型筛选，支持搜索。
分类筛选1展开收起
找到 11 个
Python新★ 49 Python新★ 40 4vanish/AI-Pentest-Playbook
🛡 一站式渗透测试 AI 聊天机器人与 LLM 应用的参考手册。提供可直接使用的载荷，覆盖 OWASP LLM Top 10 全部条目以及前沿攻击向量（MCP · RAG · A2A · computer-use · 语音）。
JavaScript · NOASSERTION新★ 14 emmanuelgjr/GenAI-Security-Crosswalk
最全面的开源 OWASP GenAI 风险到行业框架映射——70 个映射文件、25 个框架、1016 项控制、125 起事件，以及 ML 分类器流水线。来源列表包括 LLM Top 10、Agentic Top 10、DSGAI 2026、EU AI Act、NIST、ISO、SOC 2、FedRAMP、DORA、OT/ICS、MITRE ATLAS。
Astro · MIT新★ 482 RiccardoBiosas/awesome-MLSecOps
精选的 MLSecOps 工具与资源列表，用于保护机器学习和 AI 系统——涵盖对抗性 ML 防御、LLM 安全、AI 红队测试、模型扫描、供应链防护和 MLOps 流水线安全
#C03 AI红队测试Awesome Listadversarial-machine-learningagentic-securityai-agentsai-governanceai-red-teamingai-security
HTML新★ 167 wearetyomsmnv/Awesome-LLMSecOps
在一个 GitHub 仓库中汇集 LLM、智能体、安全与运营内容，配有优质链接和图片
#C03 AI红队测试Awesome Listadversarial-ml-threat-modelingai-agents-securityai-red-teamai-safety-supply-chain-securityai-securityawesome-list
Python · CC-BY-4.0新★ 13 fevziegeyurtsevenler/awesome-ai-security-tr
土耳其语 AI 安全资源——提示注入、越狱、红队测试、护栏、代理/MCP 与 RAG 安全。每条资源旁附土耳其语说明解释收录原因；失效链接由 CI 扫描。· 土耳其语 AI/LLM 安全资源列表
CC-BY-4.0新★ 11 fevziegeyurtsevenler/LLM-Security-Turkiye
土耳其语 AI 安全的开源框架：指南系列、实战学院、研究与实验、23+ 工具和 20 个 Hugging Face 数据集 + 模型。
MIT新★ 20 sonuoffsec/AI-Security-Hub
综合性 AI 安全中心，汇集载荷、速查表、动手实验、安全工具、MCP 安全、RAG 安全、智能体安全、CTF 挑战和研究资源
Python新★ 12 anpa1200/AI-PT-Lab
故意留有漏洞的 AI 安全训练靶场，面向 LLM agent，演示 OWASP LLM Top 10 2025：RAG 注入、工具滥用、记忆投毒、供应链攻击、数据外泄等
Python · MIT新★ 75 olegnazarov/rag-security-scanner
RAG/LLM 安全扫描器，可识别 AI 应用（包括聊天机器人、虚拟助手和知识检索系统）中的关键漏洞。
Python新★ 10 r00tb3/RAG-Poisoning-Lab
RAG 投毒实验——教学用 AI 安全练习。