看开源
AI 安全相关的开源项目、工具与仓库动态，按内容类型筛选，支持搜索。
共 5 个项目 · 快照于 10/30 10:12
Hugging Face↓ 1,455
other↓ 822 ai-safety-institute/lie-detection-rollouts
Lie Detection Rollouts 收集了多个开源模型在谎言检测评测套件上的补全结果，按模型和任务划分，含消息列表与 is_lie 真值标签。
cc-by-4.0↓ 16,014 nvidia/Aegis-AI-Content-Safety-Dataset-2.0
Nemotron 内容安全数据集 V2，原名 Aegis AI Content Safety Dataset 2.0，包含 33,416 条人机交互标注数据，分为训练、验证、测试三部分，是 V1 的扩展版本。
cc-by-4.0↓ 1,795 nvidia/Aegis-AI-Content-Safety-Dataset-1.0
Nemotron 内容安全数据集 V1，原名 Aegis AI Content Safety Dataset，是遵循 Nvidia 内容安全分类体系的开源数据集（CC-BY-4.0），覆盖 13 类关键风险。
other↓ 8,609 ai-safety-institute/AgentHarm
AgentHarm 是衡量 LLM Agent 有害性的基准，由 Gray Swan AI 与 UK AI Safety Institute 等机构合作构建，用于评估智能体的安全风险。