arcjet/arcjet-js
面向 AI 应用和 agent 的运行时安全：提示注入检测、工具调用授权、敏感数据脱敏、机器人防护和限流。可直接接入你的 JS/TS 代码。
看开源
AI 安全相关的开源项目、工具与仓库动态，按内容类型筛选，支持搜索。
分类筛选1展开收起
找到 19 个
TypeScript · Apache-2.0新★ 697 Python · Apache-2.0新★ 468 PrismorSec/prismor
面向 AI 代理的自托管运行时控制平面。在恶意工具调用执行前进行观察、人工审批或阻断：密钥泄露、提示注入、供应链等，均在本地仪表盘中处理。与代理无关（Claude、codex、langchain 等）。
Rust · Apache-2.0新★ 11 sundarsub/execwall
OpenClaw 执行防火墙——Seccomp 锁定的 AI agent 沙箱，具备策略强制执行的命令治理、WhatsApp/Telegram 集成和 Python 隔离，可部署在 Oracle Cloud 免费层。
Rust · MIT新★ 122 Ephemeral-AI-Lab/ephemeral-sandbox
面向并行编码 agent 的开源 agent 沙箱基础设施：隔离工作区、MCP/CLI 控制、可观测性和原子发布。
#C03 AI红队测试研究 / 基准agent-infrastructureagent-sandboxagent-swarmai-agentsai-sandboxcoding-agent-infrastructureJavaScript · MIT新★ 59 mastepanoski/claude-skills
面向 AI 编码助手的 UX/UI 评估、AI 治理和 AI 安全技能：用 Nielsen 启发式、WCAG、Don Norman 原则审计界面；用 NIST AI RMF、ISO 42001、OWASP LLM Top 10 和 OWASP AI Testing Guide 评估 AI 风险
Rust · Apache-2.0新★ 589 multikernel/sandlock
最轻量的 AI 沙箱。面向 Linux 的基于进程的沙箱，无需容器、无需虚拟机、无需特权，可防提示注入
Python · Apache-2.0新★ 586 secureagentics/Adrian
开源运行时 AI 代理安全工具——实时监控和控制 AI 代理，在代理行动之前捕获恶意工具使用、提示注入和策略漂移。
Shell · MIT新★ 16 katosh/agent_sandbox
在 HPC 系统上借助 slurm 为 AI 智能体提供沙箱。
Python · AGPL-3.0新★ 897 toby-bridges/api-relay-audit
针对 AI API 中转和 LLM 代理的本地安全审计：检测提示注入、模型替换、工具调用改写、SSE 异常、错误信息泄露和 Web3 钱包风险
Python · Apache-2.0新★ 33 msaleme/red-team-blue-team-agent-fabric
AI 智能体安全测试框架，对抗性测试：v4.28.0 版本包含 649 个可执行测试，覆盖 MCP、A2A、x402/L402、决策治理、基准完整性、人在回路、技能供应链。四种目标形态：判定必须既可能出错，也可能正确。对应 OWASP Agentic v1.1 T1-T17、AIUC-1 19/20（2026-Q1/Q2 集）、NIST AI 800-2。
Shell · MIT新★ 41 bridge-mind/BridgeWard
不信任任何东西，安全交付。——面向 AI 代理的怀疑式阅读与提示注入防御技能。来源标记、红旗模式、拒绝模板以及只读注入审计器。MIT。
Go · Apache-2.0新★ 131 SleuthCo/clawshield-public
面向 AI 代理的安全代理。扫描每条消息中的提示注入、PII 和密钥。纵深防御：Go 代理 + iptables 防火墙 + eBPF 内核监控。YAML 策略引擎、审计日志、5 个带 RAG 知识库的 AI 代理。
Go新★ 106 kajogo777/the-agent-sandbox-taxonomy
用于评估 AI agent 沙箱的开放分类与评分框架：7 个防御层、7 类威胁、3 个评估维度，对 27 个“沙箱”进行评分。
Python · MIT新★ 19 Agentic-AI-Risk-Mitigation/Janus
面向 LLM Agent 的系统级安全：对工具调用实施细粒度策略，以防御间接提示注入。
#C03 AI红队测试研究 / 基准ai-agentsai-securityblackhat-arsenalindirect-prompt-injectionlangchainpolicy-enforcement
MIT新★ 13 CloudDefenseAI/secure-agents-md
面向 AI 编码智能体的安全工作约定：加固的 AGENTS.md、提示词/工具注入防护、依赖卫生、符合 Scorecard 要求的开源配置。
GitHub新★ 99 Mai-xiyu/Codex-Prompt
Rational engineering system prompt for Codex and LLMs — focused on accuracy, software engineering, AI, security research, bug bounty, and reverse engineering. | 面向 Codex 与 LLM 的理性工程系统提示词：强调准确性、软件工程、AI、网络安全、漏洞研究与逆向工程。
JavaScript · MIT新★ 26 AgentsID-dev/agentsid-scanner
面向 MCP 服务器的安全扫描器。对认证、权限、注入风险和工具安全性进行评级。agent 安全领域的灯塔。
Python · NOASSERTION新★ 12 9hannahnine-jpg/arc-gate
Arc Gate —— 带提示注入检测的 LLM 代理。Bendex Geometry。
NOASSERTION新★ 13 X-Scale-AI/GRITS
开源 AI Agent 安全框架，可对 AI Agent 进行评分、加固和治理，基于 DoD/DISA 零信任原则构建。