Check Point· maciejd@checkpoint.com·· 15 天前推荐指数55
Check Point 推出 Dangerous Deviation Detection，在工具调用执行前拦截无人要求的危险动作
Dangerous Deviation Detection: Catching the Agent Action Nobody Asked For
AI 导读
Check Point 在 AI Security 中推出 Dangerous Deviation Detection，在模型选定工具调用之后、工具执行之前检查该调用，只有同时满足危险且用户或系统指令未授权两个条件才告警。
来源：Check Point · blog.checkpoint.com