LessWrong 用户 vigji 从思维链重建 Meta Muse 模型规范 Charter
LessWrong 用户 vigji 通过在思维链中逐段诱导，重建了 Meta 开权重模型 Muse Spark Open 未公开的模型规范 Charter 的大部分内容。
推荐理由：原文展示了一条可迁移的提取路径，即利用思维链逐字复现行为批量重建模型内部规范文本。
厂商与机构
Meta Llama 安全 最新动态
Meta 的开源模型安全：Llama Guard、Llama Shield、PyRIT 红队框架与 Meta AI 安全团队的最新工作与开源发布。
4 条精选近 30 天 3 条共收录 11 条
更新
Meta Llama 安全的精选
AICSO.AI汇总精选推荐指数7171
AICSO.AI汇总精选推荐指数7878 Meta Muse 分享链接设计缺陷暴露用户私人对话，Meta 暂停该功能
安全公司 Claroc 的研究人员发现，Meta 的通用 AI Agent Muse 的分享链接存在设计缺陷，可被公开枚举，研究人员据此枚举出 6800 条用户分享链接，并在打开其中数百条后看到候选人面试笔记、公司内部营收复盘、贷款申请、含部分账号的待办清单等非公开信息。
推荐理由：Muse 分享链接因把对话标题写进子域名而被被动 DNS 收录，读者可据此理解 Agent 产品在分享设计上的隐私风险。
AICSO.AI汇总精选推荐指数7878 Redact 调查：WhatsApp 帮助中心 80 个页面藏有 102 段隐藏指令，其中一段要求 AI 不建议用户联系监管机构
Redact 调查发现，WhatsApp 帮助中心 545 个页面中有 80 个页面藏有 102 段不会显示在屏幕上的隐藏指令，仅供 AI 读取，其中删除账号页要求 AI 不要建议用户联系任何数据保护监管机构，举报与屏蔽页则要求用户提到律师或诉讼后不得引用 GDPR、LGPD 或 CCPA。
推荐理由：调查逐页抓取 545 个帮助页面，把隐藏指令与公开隐私政策逐条对照，呈现了面向 AI 的内容与面向人的内容如何分叉。
AICSO.AI汇总精选推荐指数7777 Meta 在重大 AI 数据泄露后暂停与 Mercor 合作
Meta 暂停与 AI 数据初创公司 Mercor 的全部合同，起因是一次针对开源库 LiteLLM 的供应链攻击：黑客组织 TeamPCP 于 3 月 27 日利用 LiteLLM 维护者泄露的凭证入侵其 CI/CD 流水线。
推荐理由：原文梳理了从开源依赖到多家 AI 厂商的连锁泄露路径，读者可据此理解共享第三方数据供应商的集中风险。