跳到正文
  1. AICSO.AI汇总71

    LessWrong 用户 vigji 从思维链重建 Meta Muse 模型规范 Charter

    LessWrong 用户 vigji 通过在思维链中逐段诱导,重建了 Meta 开权重模型 Muse Spark Open 未公开的模型规范 Charter 的大部分内容。

    推荐理由:原文展示了一条可迁移的提取路径,即利用思维链逐字复现行为批量重建模型内部规范文本。

  1. CSO精读70

    攻击者冒充OpenAI、Anthropic等约32个AI机器人身份扫描企业凭据文件

    据Cequence威胁研究总监Will Glazier披露,单一威胁组织在2026年9月底至10月底期间,冒充约32个AI机器人身份(包括OpenAI、Anthropic、Meta和Perplexity),针对金融、零售、电信、能源和软件行业的企业Web服务器扫描敏感文件。

    推荐理由:文章梳理了攻击者冒充AI爬虫扫描凭据文件的手法与防御建议,读者可据此检查自家对AI bot流量的验证策略。

  1. 虎嗅78

    个人智能体扎堆上线,多数App不愿开门

    Anthropic发布个人智能体App Claude Duet,可盯邮箱日历、催收账单、经同意后下单付款,仅对美国Pro和Max订阅用户开放并需排队邀请,基于Opus 5.5模型。

    推荐理由:文章梳理了个人智能体面临的权限与App准入两难,读者可据此理解智能体落地的真实阻力所在。

  1. AICSO.AI汇总78

    Redact 调查:WhatsApp 帮助中心 80 个页面藏有 102 段隐藏指令,其中一段要求 AI 不建议用户联系监管机构

    Redact 调查发现,WhatsApp 帮助中心 545 个页面中有 80 个页面藏有 102 段不会显示在屏幕上的隐藏指令,仅供 AI 读取,其中删除账号页要求 AI 不要建议用户联系任何数据保护监管机构,举报与屏蔽页则要求用户提到律师或诉讼后不得引用 GDPR、LGPD 或 CCPA。

    推荐理由:调查逐页抓取 545 个帮助页面,把隐藏指令与公开隐私政策逐条对照,呈现了面向 AI 的内容与面向人的内容如何分叉。

  2. AICSO.AI汇总78

    Meta Muse 分享链接设计缺陷暴露用户私人对话,Meta 暂停该功能

    安全公司 Claroc 的研究人员发现,Meta 的通用 AI Agent Muse 的分享链接存在设计缺陷,可被公开枚举,研究人员据此枚举出 6800 条用户分享链接,并在打开其中数百条后看到候选人面试笔记、公司内部营收复盘、贷款申请、含部分账号的待办清单等非公开信息。

    推荐理由:Muse 分享链接因把对话标题写进子域名而被被动 DNS 收录,读者可据此理解 Agent 产品在分享设计上的隐私风险。

  1. AICSO.AI汇总77

    Meta 在重大 AI 数据泄露后暂停与 Mercor 合作

    Meta 暂停与 AI 数据初创公司 Mercor 的全部合同,起因是一次针对开源库 LiteLLM 的供应链攻击:黑客组织 TeamPCP 于 3 月 27 日利用 LiteLLM 维护者泄露的凭证入侵其 CI/CD 流水线。

    推荐理由:原文梳理了从开源依赖到多家 AI 厂商的连锁泄露路径,读者可据此理解共享第三方数据供应商的集中风险。

已经到底了