2026 年 11 月 2 日 · 星期一AI安全 · 每日要闻每天 08:00 出刊
安全官日刊 · 2026 年 11 月 2 日 · 星期一
第 66 期022026 年 11 月星期一
十一月本月 2 期
一二三四五六日
5件大事2个来源0件一手发布约 2 分钟读完
头条
Observer 调查 OpenAI 安全团队:审核积压数月、团队仅十余人
Observer 与 Tortoise 联合调查披露,OpenAI 负责审核被 AI 模型标记对话的情报与调查团队规模仅 12 至 60 人,待人工复核的标记对话积压曾长达数月,而 ChatGPT 每周有 1.2 亿用户、OpenAI 员工约 8000 人。
安全工程
DeepSeek开源Super-agent架构思路:Agent自主发现Bug并提交PR
DeepSeek发布面向工程实践的架构文章《Super-agent:迈向更自主的Agent系统》,并开源原型仓库 github.com/deepseek-ai/dsh-superagent-prototype,展示Agent在无人指令下自主发现Bug、定位问题并提交修复PR的能力。
合规治理
Google、Microsoft、OpenAI 和 Anthropic 支持统一的 AI 训练退出机制
Google、Microsoft、OpenAI 和 Anthropic 将在 robots.txt 中支持统一的 AI 训练退出信号,让网站用一条规则即可拒绝被用于生成式 AI 训练,无需为各家爬虫分别写规则。
得州总检察长起诉 OpenAI,要求新模型须经独立评估批准
2026年10月23日,得克萨斯州总检察长 Ken Paxton 起诉 OpenAI 和 Sam Altman,请求法院禁止任何新 OpenAI 模型在得州发布,除非先经法院认可的独立评估者批准。
安全产品
OpenAI发布面向生物学的GPT-Rosalind-6,降低风险问题拒绝率并仅向获批机构开放
OpenAI于10月30日发布面向生物学与药物研发的模型GPT-Rosalind-6,使用与GPT-6 Astra相同的权重,未加入新训练数据或额外微调,主要调整了可回答内容边界与使用权限。
快讯
- 31 岁女子在 ChatGPT 建议下减停癫痫药后身亡,家属起诉 OpenAIAICSO.AI汇总跟进
- 共情式提示让AI聊天机器人输出受创叙事,研究提出心理测量越狱概念AICSO.AI汇总