Hugging Face Blog·· 2025-12-23推荐指数76
ServiceNow 发布 8B 安全护栏模型 AprielGuard,覆盖 Agent 工作流攻击检测
AprielGuard: A Guardrail for Safety and Adversarial Robustness in Modern LLM Systems
AI 导读
ServiceNow-AI 在 Hugging Face 发布 AprielGuard,一个 8B 参数的安全护栏模型,用于检测 16 类安全风险(涵盖毒性、仇恨、虚假信息、自残、非法活动等)以及提示词注入、越狱、思维链污染、上下文劫持、记忆投毒和多智能体利用链等对抗攻击,同时支持对 Agent 工作流中的工具调用与推理轨迹进行检测。
来源:Hugging Face Blog · huggingface.co