LessWrong 用户 vigji 从思维链重建 Meta Muse 模型规范 Charter
LessWrong 用户 vigji 通过在思维链中逐段诱导,重建了 Meta 开权重模型 Muse Spark Open 未公开的模型规范 Charter 的大部分内容。
推荐理由:原文展示了一条可迁移的提取路径,即利用思维链逐字复现行为批量重建模型内部规范文本。
LessWrong 用户 vigji 通过在思维链中逐段诱导,重建了 Meta 开权重模型 Muse Spark Open 未公开的模型规范 Charter 的大部分内容。
推荐理由:原文展示了一条可迁移的提取路径,即利用思维链逐字复现行为批量重建模型内部规范文本。
据Cequence威胁研究总监Will Glazier披露,单一威胁组织在2026年9月底至10月底期间,冒充约32个AI机器人身份(包括OpenAI、Anthropic、Meta和Perplexity),针对金融、零售、电信、能源和软件行业的企业Web服务器扫描敏感文件。
推荐理由:文章梳理了攻击者冒充AI爬虫扫描凭据文件的手法与防御建议,读者可据此检查自家对AI bot流量的验证策略。
Check Point Exposure Management 研究人员发现一起冒充 20 多个旅行品牌的客服电话诈骗活动,将批量生成的欺诈 PDF 托管在大学、政府等可信域名上,并让同一批号码出现在 Instagram、Facebook 帖子及标注“Summarized by Meta AI”的搜索摘要中。
Redact 调查发现,WhatsApp 帮助中心 545 个页面中有 80 个页面藏有 102 段不会显示在屏幕上的隐藏指令,仅供 AI 读取,其中删除账号页要求 AI 不要建议用户联系任何数据保护监管机构,举报与屏蔽页则要求用户提到律师或诉讼后不得引用 GDPR、LGPD 或 CCPA。
推荐理由:调查逐页抓取 545 个帮助页面,把隐藏指令与公开隐私政策逐条对照,呈现了面向 AI 的内容与面向人的内容如何分叉。