Mattral/guardrail-rs
用 Rust 编写的 LLM 安全代理
看开源
AI 安全相关的开源项目、工具与仓库动态，按内容类型筛选，支持搜索。
分类筛选1展开收起
找到 8 个
Rust · Apache-2.0新★ 15 Python · MIT新★ 20 Virtue-Research/guard-eval-harness
一条命令即可在安全、安保、越狱、提示注入和安全编码任务上对 AI 防护栏和编码 agent 进行基准测试
Go · AGPL-3.0新★ 44 yatuk/tamga
自托管的 LLM 安全代理。提供 PII 脱敏、提示注入防御，符合 KVKK/GDPR/PCI-DSS，延迟低于毫秒级。
CC-BY-4.0新★ 11 fevziegeyurtsevenler/LLM-Security-Turkiye
土耳其语 AI 安全的开源框架：指南系列、实战学院、研究与实验、23+ 工具和 20 个 Hugging Face 数据集 + 模型。
TypeScript · Apache-2.0新★ 28 doronp/agentshield-benchmark
AI 代理安全工具的开源基准——提示注入、数据外泄、工具滥用、来源追踪
Python · Apache-2.0新★ 129 SantanderAI/autoguardrails
面向 LLM 护栏的对齐研究脚手架（autoresearch 风格）：在单一 policy.md 表面上进行搜索
Python · MIT新★ 18 NIKHIL-KASHMEERABEN-RUPALA/Neural_Forge
NeuralForge 是端到端的 LLM 微调与服务平台。它利用 LoRA（PyTorch/Hugging Face）进行领域适配，相比基础模型降低错误率。具备自动化 MLflow 评估框架，在 AI 护栏下跟踪准确率、延迟和幻觉情况，并通过 CI/CD 部署在 vLLM、Docker 和 Kubernetes 上以实现高吞吐。
Python · AGPL-3.0新★ 12 0x0pointer/seraph
seraph AI 防护栏「不打一场，你无法真正了解一个人」