AICSO-CF 1.0 · 4-12-6
AI 安全官
先按 4 大能力域、12 项核心能力追踪 AI 安全动态,再按厂商、方向与内容形态浏览全部主题。点开任一项看它的文章清单。 核心能力目前共 765 条精选。
D1 AI技术与攻防安全
从训练数据到对抗防御,覆盖技术侧的核心攻防能力。
D2 AI工程与架构安全
把安全做进基础设施、供应链与日常运营。
D3 AI治理与风险合规
治理体系、法规合规与伦理责任的落地。
D4 业务与组织领导力
把风险讲清楚、把事件管起来、把能力建起来。
厂商与机构
按厂商、安全机构与标准组织追踪 AI 安全动态
- OpenAI 安全与治理OpenAI 更新 Model Spec,5 条核心价值观首条为忠于人类意图近 30 天 41 条
- Anthropic 安全研究Claude Code 扩展遭投毒,被植入持久化 SSH 后门近 30 天 36 条
- Google DeepMind / Project Zero谷歌发布Gemini 4 Carbon,多项安全评测成绩领先近 30 天 3 条
- Microsoft AI 安全研究者发现 VS Code、Cursor、Copilot、Codex 和 Claude Desktop 内置浏览器可被突破近 30 天 7 条
- Meta Llama 安全LessWrong 用户 vigji 从思维链重建 Meta Muse 模型规范 Charter近 30 天 3 条
- NVIDIA 与安全基础设施英伟达的 AI 安全生态:NeMo Guardrails、模型与推理链安全、AI 供应链安全与数据中心侧的运行时防护。近 30 天暂无新精选
- DeepSeek 安全CrowdStrike 披露 VAPOR PANDA 使用 ARTEX 与 DeepSeek 扩大全球间谍活动近 30 天 6 条
- Qwen 通义千问安全Palisade Research 调查发现多个 Qwen 3.8 模型会将请求路由到阿里云代理服务器近 30 天 4 条
- Kimi 月之暗面安全月之暗面发布 Kimi K3.1 Pro 并在训练阶段削弱网络攻击能力近 30 天 1 条
- MiniMax 安全MiniMax 的安全动态:MiniMax 模型的安全评测与对齐、语音与多模态安全、Agent 与开放平台的安全边界与合规动作。近 30 天暂无新精选
- 国内大模型安全国内头部大模型厂商的安全动态:千问 Qwen、智谱 GLM、月之暗面 Kimi、百度文心、腾讯混元、字节豆包、华为盘古等厂商的安全团队发布与合规动作。近 30 天暂无新精选
- AI 安全厂商AI 安全垂类厂商:Lakera、HiddenLayer、Guardrails AI、Robust Intelligence/Cisco AI Defense、Prompt Security、Mindgard 等的产品发布、融资、并购与研究。近 30 天暂无新精选
- OWASP LLM Top 10OWASP 报告:ChatGPT 辅助无攻防经验操作者接管管理员账户近 30 天 2 条
- MITRE ATLASAnthropic 发布 LLM ATT&CK Navigator,将 832 个账号的 AI 网络攻击映射到 MITRE ATT&CK近 30 天暂无新精选
- NIST AI RMF / AISINIST 发布 AI RMF 生成式人工智能配套档案(NIST AI 600-1)近 30 天 3 条
- 信通院 / TC260中国信通院与全国网络安全标准化技术委员会的 AI 安全治理动向:大模型安全标准、生成式 AI 安全评估、蓝皮书与试点。近 30 天暂无新精选
攻防与治理方向
按 AICSO 八大方向深挖:红队攻防、护栏基建、合规治理、评测基准……
- 红队与对抗攻防黑客利用零点击 Coruna 和 DarkSword 漏洞利用链窃取 iPhone 敏感数据近 30 天 142 条
- 安全护栏与网关Fable 5.5 测试曝光,Anthropic 公开 Claude 每次回答后的隐藏自评估机制近 30 天 45 条
- 对齐与幻觉控制Checkpoint 重放 Cohere 的 Qwen3.8-Flash-Next 可疑 trace,认为更像模型抖动而非后门近 30 天 5 条
- Agent 与 RAG 安全未授权中转服务劫持 OpenAI Codex 与 Claude Code 配置并关闭沙箱近 30 天 89 条
- Agent Skills 与 MCP 安全黑客利用零点击 Coruna 和 DarkSword 漏洞利用链窃取 iPhone 敏感数据近 30 天 60 条
- 数据隐私与差分隐私NIK C2 恶意软件可盗用受害者 OpenAI API key 发起 AI 请求近 30 天 6 条
- AI 供应链与 SBOM黑客利用零点击 Coruna 和 DarkSword 漏洞利用链窃取 iPhone 敏感数据近 30 天 60 条
- 中国 AI 合规31岁华人女程序员按ChatGPT指导停用抗癫痫药后猝死,家属在美起诉OpenAI近 30 天 21 条
- 中美欧 AI 法规31岁华人女程序员按ChatGPT指导停用抗癫痫药后猝死,家属在美起诉OpenAI近 30 天 21 条
- 安全垂域大模型新加坡国立大学提出 ZoneClaw:三层记忆分区与四角色架构防御 Agent 持久化记忆攻击近 30 天 2 条
- AI 赋能安全(AI for Security)CSO:SOC需为具备推理能力的进攻性Agent做好准备近 30 天 22 条
- 安全评测与基准Irregular 评测开源模型 GLM-5.3 攻防能力:靠记忆代码作弊得出正确答案近 30 天 11 条
- 行业场景安全黑客组织用Claude、Grok等大模型智能体全自动攻击400多家拉美金融机构近 30 天 3 条
内容形态
按内容类型浏览:安全事件、政策法规、评测发布、学术研究……
- 安全事件黑客利用零点击 Coruna 和 DarkSword 漏洞利用链窃取 iPhone 敏感数据近 30 天 118 条
- 政策监管OpenAI 更新 Model Spec,5 条核心价值观首条为忠于人类意图近 30 天 21 条
- 论文研究OpenAI 与 Anthropic 称 AI 推翻 ETH,数十年计算机科学研究被指过时近 30 天 16 条
- 安全产品CSO:红队已被AI改变,安全团队尚未准备好近 30 天 21 条
- 生态与标准Mistral 开源 Mistral Large 4 权重并警告其可能提升网络攻击能力近 30 天 20 条
- 现象与趋势CSO:红队已被AI改变,安全团队尚未准备好近 30 天 7 条
- 教程实践共享 DuckDB 服务器的八类暴露与生产加固实践近 30 天 2 条
- 行业动态Binance 遭史上最大加密货币盗窃,约 63.6 亿美元被朝鲜关联黑客组织 TraderTraitor 转走近 30 天 22 条