humanbound/humanbound-firewall
Multi-tier firewall for AI agents — blocks prompt injections, jailbreaks, and scope violations. Local tiers first; LLM judge only when uncertain.
看开源
AI 安全相关的开源项目、工具与仓库动态，按内容类型筛选，支持搜索。
分类筛选1展开收起
找到 4 个
Python · Apache-2.0新★ 55
Jupyter Notebook新★ 101 erfnzdeh/MCI-LLM-Security-Hackathon
Prompt Police 团队在 MCI 的 LLM 安全黑客松（Quera，2025 年 11 月）中的比赛日记：通过跨语言、音译和框架攻击越狱 14 个禁止领域的安全防护模型。
Kotlin · MIT新★ 11 K4N3CO-LABS/JailBreak-Ai
JailBreak-Ai is an advanced AI red-teaming app for Android. It generates high-fidelity payload prompts to test AI safety filters, model robustness, and logical boundary security for Jailbreaking capabillities.
Rust · Apache-2.0新★ 10 akav-labs/agentsentry-gateway
面向 LLM Agent 的透明 OpenAI 兼容安全网关——在出口处进行 DLP、密钥泄露、越狱和提示注入检测。是 Akav Labs 出品的 AgentSentry 的开源核心。