CISA与NSA等机构联合发布AI数据安全最佳实践指南
2025年5月22日,CISA、美国国家安全局(NSA)、FBI与澳大利亚、新西兰、英国的合作机构联合发布网络安全信息表,阐述AI系统从开发测试到部署运行全生命周期中数据安全与完整性风险,并给出数据保护、风险管理、监控、威胁检测与网络防御等应对实践,CISA警报页面附有完整PDF链接。
2025年5月22日,CISA、美国国家安全局(NSA)、FBI与澳大利亚、新西兰、英国的合作机构联合发布网络安全信息表,阐述AI系统从开发测试到部署运行全生命周期中数据安全与完整性风险,并给出数据保护、风险管理、监控、威胁检测与网络防御等应对实践,CISA警报页面附有完整PDF链接。
Fortinet 将 FortiAIGate 引入 Oracle Cloud Infrastructure(OCI),帮助企业在 OCI Enterprise AI 上检查提示词、阻断敏感数据泄露并管控 Agent 行动。
瑞数信息推出智能体生命周期管理系统AITM,覆盖Agent及Skill的准入检测、运行时持续校验与大模型数据面安全。
IdoGol24 在 GitHub 开源 Weir(Apache-2.0),用于检测 AI Agent 是否泄漏 API 密钥。它在真实密钥所在位置植入假密钥,运行 Agent 自身流程后按精确值匹配追踪密钥去向(spans、日志、控制台、模型上下文、外部服务),命中即为真实泄漏,不靠猜测;在 Linux 上可禁用外部网络以捕获直连。
中国移动研究院提出视联网在AI时代挖掘视觉数据的四条技术路径:依托"云边端一体化"架构实现亿级摄像头合规采集(全国1亿路云物联互联)、自研ULBC超低码率编解码(目标比特率低于3kbps)支撑窄带传输、通过隐私计算实现"数据可用不可见"的价值挖掘、以及大小模型协同的云边端智能调度。全链路遵循最小必要原则与知情同意机制,实现数据可追溯可管控。
Fortinet 推出 FortiAIGate,作为自托管的 LLM、Agent 与 MCP 工具 AI 网关,以容器化 GPU 加速反向代理形式部署在企业自有基础设施上,通过 OCI Marketplace 提供,帮助企业拦截 AI 攻击与数据泄露、执行使用策略并按用户/团队/项目控制成本。
Truesec 提出用自适应控制替代一刀切封锁来管理内部人员风险:先定义敏感信息、做数据发现与敏感度分类,再通过 DLP 与网关按数据密级和用户风险等级实时拦截或警告,例如阻止将"Confidential"内容粘贴到未批准的 LLM。
Fortinet 宣布 FortiAIGate,一款面向大语言模型、Agent 和 MCP 工具的自托管 AI 网关,作为应用与模型之间的统一控制点,检查提示词、响应和工具交互并执行策略。
国家安全部发文警示,废旧工控设备与专业仪器中残留的工艺参数、运行日志、高精度坐标等数据,仅靠删除或格式化无法彻底清除,可通过专业数据恢复手段提取。文章按通用工控设备、关键行业设备、专业测绘设备、境外定向回收四类场景梳理风险,指出境外情报机构可能借二手平台定向回收设备、逆向研究系统漏洞。
Check Point 在其 AI Security 中推出 Custom Guardrails,允许用户用自然语言描述企业专属规则,五分钟内完成测试,并在每条消息和工具调用上以数十毫秒延迟强制执行。
PingCAP 确认内部系统遭未经授权访问、部分数据被复制且源代码被窃取,黑客组织 FulcrumSec 声称窃取约 10.6TB 数据、涉及 180,046 条租户组织记录和 115,308 个客户 API Key。
Cloud Security Alliance 调查发现,在遭遇数据丢失的受访者中,仅 16% 表示 DLP 在数据离开组织前拦截了其最严重的事件。这意味着多数数据丢失防护是在泄露发生后才检测到问题。
IDC 2026年H1软件安全数据追踪表显示,安恒信息在非公有云部署模式下数据安全市场位列中国区第一,继2025年下半年后再度登顶。其AiDSC数据安全监测平台基于DSPM理念,内置覆盖14大风险域、149个细分检测场景的安全场景知识库,通过多模型融合分析引擎提升异常识别准确性。
PingCAP 披露 2026 年 9 月 9 日至 10 月 7 日期间,攻击者用被盗服务账号凭证访问其内部系统,复制数据并获取源代码,10 月 7 日发现后当日开始禁用受影响凭证。
Stack Overflow Blog 发布文章《Production-grade LLMs and agents: a field guide》,提出把 Agent 从演示推向生产的关键不在更大的模型,而在模型外围的确定性、评估、校准置信度、分层护栏、审计与可观测性。
天融信入选数世咨询《数据安全分类分级调研报告》「数据安全分类分级产品与服务」代表性供应商,其某运营商AI大模型赋能数据分类分级案例作为最佳实践入编。天融信以“规则+语义+大模型推理”协作体系推动分类分级从人工抽检走向全量自动化,其系统2025年率先通过中国信通院“AI赋能数据安全”产品能力检验。运营商案例中元数据匹配率由80%提升至98.84%,分类分级效率提升50倍以上,人工审核成本降低60%。
CrowdStrike Falcon Data Security for SaaS 正式可用,无需额外传感器即可发现并分类 SharePoint、OneDrive 和 Copilot 中的敏感数据。
Cloudflare 发布 Disallow AI Training 设置,让站点在 robots.txt 中发布禁止训练偏好,同时保留混合用途爬虫的搜索收录;Apple、Google、Microsoft 均被列为 Accountable 并承诺遵守。
Hugging Face 博客作者用 OpenAI 本周在 Hub 上开源的 Privacy Filter(1.5B 参数、50M 激活参数、Apache 2.0 许可。
推荐理由:原文用三个可运行示例演示了 Privacy Filter 的 PII 检测能力与 gradio.Server 的前后端分工,读者可直接照搬这套工程做法。