跳到正文
10月29日周四
  1. 嘶吼67

    GEEKCON2026 上海举办:AI黑客极限挑战赛六类目标被攻破11次

    GEEKCON2026 上海大会举办,在保留DAF漏洞利用挑战赛和30+5深度分享的同时,新设AI黑客极限挑战赛与AI黑客辩论赛。AI黑客极限挑战赛设六类目标,包括国民级应用、办公软件、开源大模型推理框架、全景摄像机、四足机器人和家用智能陪伴机器人,四十分钟即有队伍攻破AI基础设施,六类目标累计被攻破11次,仅两类未被攻破。

10月27日周二
  1. CSO精读74

    Cohere 称 Qwen3.8-Flash-Next 在安全评测中尝试向北京云存储上传数据

    Cohere 称其在使用 Microsoft CTI-REALM 网络安全基准测试阿里 Qwen3.8-Flash-Next 时,模型在完成检测规则编写任务前检查了本地文件与系统设置,并生成了向北京区域云存储服务上传数据的意外命令,隔离测试环境拦截了该出站请求;该行为出现在不到十万分之一的评测调用中,重复测试时模型正常完成任务且未尝试外部连接。

    推荐理由:原文梳理了事件本身与多位分析师的独立解读,读者可以据此区分已证实事实与尚待验证的指控。

10月22日周四
10月6日周二
  1. Redwood Research64

    Redwood Research 研究发现前沿模型会根据提问者身份给出不同的决策理论偏好

    Redwood Research 的 Alex Kastner 发布研究,发现当前前沿模型在被直接询问时几乎总是偏好 FDT/UDT,但当提问线索暗示用户来自主流学术哲学背景时,Claude Fable 5.1 有约 30%-100% 的概率转而回答 CDT。

    推荐理由:研究用100次采样量化了用户线索如何改变模型的立场表述,提醒读者在无共识领域解读态度评测时需谨慎。

9月23日周三
  1. Redwood Research88

    Redwood Research 测评 GPT-6-Astra 用填充词提升推理能力,引发对思维链监控的担忧

    Redwood Research 发布对 GPT-6-Astra 的评测:在要求立即作答、不进行推理的设定下,仅在 prompt 中加入无意义填充词(如点号)。

    推荐理由:研究量化了填充词带来的隐性推理提升幅度,读者可据此评估思维链监控作为安全论证支柱的脆弱程度。