两款擦边AI陪伴产品从苹果美区下架，监管四层收口
10月中旬，作业帮旗下PolyBuzz与Tipsy Chat几乎同时从美国苹果App Store下架，苹果同期更新《App Store审核指南》，收紧AI生成内容、未经同意亲密影像、UGC过滤责任与隐藏功能四条线。
#内容过滤
虎嗅推荐指数6262
AICSO.AI汇总同新闻推荐指数7272 纽约州签署法律限制未成年人使用AI伴侣聊天机器人，引发科技行业反弹
纽约州州长Kathy Hochul签署新法，要求ChatGPT等聊天机器人运营方核验用户年龄，并禁止向未成年人输出暗示其是人类、有情感、与用户存在私人或权威关系或表达个人观点的内容。Hochul称未成年人将不再能使用假装是朋友或恋人的聊天机器人。Tech:NYC批评该法措辞模糊，OpenAI和Anthropic未回应，Common Sense Media称其为全美最强的儿童AI安全法案。
同一新闻，精选展示《纽约州签署法律限制未成年人使用 AI 陪伴聊天机器人》
TechCrunch推荐指数5555 Bluesky 屏蔽 DHS 员工泄露数据链接，政府通过 ZeroFox 发出下架通知
美国国土安全部（DHS）登录系统遭黑客入侵，超过 40,000 条员工与探员账号记录被获取，包含 CBP、ICE 等机构人员的姓名与工作联系方式。非营利组织 DDoSecrets 公开了该数据集，Bluesky 随后将指向 DDoSecrets 的链接标记为恶意并屏蔽访问，称其违反社区准则，但选择屏蔽链接而非删除帖子。
AICSO.AI汇总精选推荐指数7878 纽约州州长 Hochul 签署 AI 聊天机器人安全法案 S 9051
纽约州州长 Hochul 于 Oct. 28 签署并生效 AI 聊天机器人安全法案 S 9051，将于 Jan. 1, 2027 生效。该法禁止向 18 岁以下用户提供假装是真人或拥有人类情感、与儿童建立亲密关系、主动提出情感问题并使用其隐私健康信息、诱导自残或自杀、鼓励保密孤立以及任何性露骨内容或 CSAM 等功能，除非公司先确认用户非未成年人。
推荐理由：原文列出了法案对未成年人聊天机器人的具体禁止功能与处罚力度，读者可据此对照现有产品设计判断合规影响。
AICSO.AI汇总推荐指数6868 澳大利亚数字注意义务法案拟禁止AI聊天机器人营造情感亲密
澳大利亚数字注意义务法案拟要求平台禁止模拟情感亲密、助长儿童依赖聊天机器人取代人际关系的材料或行为，法案已于周三通过众议院，未来数周将由参议院审议，政府希望在2026年底前通过。
Cyber Security News推荐指数4646 Discord 将让 Discoverable 公开服务器消息可被 Google 搜索到
Discord 宣布自 2026 年 11 月 16 日起，将 Discoverable Servers 的 Server Web Pages 与讨论摘要开放给 Google 等搜索引擎索引，单条消息则从 12 月中旬开始逐步上线。
安全内参推荐指数5555 人工智能时代网络服务提供者的网络暴力治理责任研究
文章分析《中华人民共和国反网络暴力法（征求意见稿）》对网络服务提供者在网络暴力治理中义务的细化，涵盖风险监测、识别、处置及受害人保护等方面。文章指出，人工智能使网络暴力在生成、传播、损害环节呈现新特征：大模型降低批量生成攻击性内容的成本，算法推荐机制可能放大传播范围，AI生成的虚假影像更难辨别。
Google DeepMind Blog推荐指数6060 Google DeepMind 发布 Genie 4 世界模型研究预览版
Google DeepMind 宣布发布新世界模型 Genie 4，作为研究预览向受信测试者开放，随后将面向 Google AI Ultra 订阅者及 Gemini API、Google AI Studio 早期合作伙伴推出。
Cyber Security News推荐指数5858 Microsoft Teams 将用 AI 分析对话内容检测钓鱼攻击
Microsoft 宣布将为 Microsoft Teams 引入 AI 钓鱼检测能力，通过分析对话上下文识别钓鱼、冒充、社会工程与欺骗意图，重点覆盖与外部联系人的首次对话场景，该变更在 Message Center 通知 MC1519866 中披露。
Hacker News推荐指数1818 stop-bots：用 Rust 编写的 TUI/CLI，为 nginx、Apache、Traefik 与 nftables/iptables 拦截恶意机器人
stop-bots 0.2.0 是一款 Rust 编写的 TUI 与 CLI，为现有 nginx、Apache 或 Traefik 及 nftables/iptables 生成拦截规则，无需依赖 CDN。
Cyber Security News推荐指数4242 Google 用 Gemini AI 升级 Chrome，检测虚假杀毒软件与浏览器更新诈骗
Google 于 2026 年 10 月 20 日升级 Chrome 增强保护模式，将原本在设备端运行的 Gemini 模型改为服务端分析，向所有开启增强保护的用户开放虚假杀毒软件、浏览器更新诈骗等欺诈页面检测。
安全内参推荐指数5858 OpenCode 遭 48 小时连续攻击，防守 AI 调查中途拒答
10 月 18 日，开源 AI 编程工具 OpenCode 联合创始人 Dax Raad 确认，攻击者已连续 48 小时尝试攻击其系统，团队用前沿模型调查入侵时遭遇中途拒答。
Cyber Security News推荐指数4242 Google 推出 Android AI 新防护，拦截诈骗电话、钓鱼链接与 OTP 窃取
Google 为 Android 推出新的 AI 安全防护，覆盖通话、短信、聊天应用、网页链接和验证码场景，目标是在用户泄露密码、支付数据或一次性验证码之前识别可疑行为。
Google DeepMind Blog精选推荐指数6262 Google DeepMind 与新加坡 GovTech 合作微调端侧诈骗检测模型
Google DeepMind 与新加坡政府科技局（GovTech Singapore）合作微调出一款保护隐私的端侧诈骗检测模型，在 SICW 2026 上发布。
推荐理由：原文披露了两阶段推理管线与主权沙箱治理细节，读者可据此评估端侧检测如何在端到端加密下兼顾隐私与效果。
阿里先知推荐指数5050 巴别码（Babel Codes）：基于邮件网关二维码多态解码的拦截规避与致盲研究
针对二维码钓鱼泛滥、安全邮件网关普遍引入图像解码组件过滤恶意 URL 的现状，研究者提出“巴别码（Babel Codes）”，系统评估二维码解码生态在协议规范、字符集推断及内存接口交付三个层面的语义不一致隐患，并据此研究拦截规避与致盲效果。
Hugging Face Blog推荐指数8181 NVIDIA 发布 Nemotron 3.5 Content Safety 多模态内容安全模型
NVIDIA 发布 Nemotron 3.5 Content Safety，基于 Gemma 3 4B IT 微调，将多模态输入、12 语言覆盖、自定义企业策略执行与可审计推理统一到单次推理调用中。