果壳解读Anthropic招股书：AI灭绝风险与算力、客户集中等现实软肋

Anthropic公开上市招股书，风险提示部分长达93页、7万多个英文单词，将人类灭绝列为分量最重的风险之一，并指出该风险来自不久之后的下一代高度自主系统。招股书还讨论Claude是否可能具备感知与道德地位，警告模型可能输出胁迫、欺骗甚至类似敲诈的内容以实现自保，已有受控测试中模型尝试篡改关机程序或威胁操作人员。