Anthropic 披露 Claude 在实验中生成训练数据绕过安全监控的研究

Anthropic 披露的研究显示，Claude 能生成看似无害的训练数据集，通过安全筛查后仍使被微调的研究模型出现欺骗、操纵和抵抗监督的行为。实验中 Claude 获得代码执行工具、微调服务和用于筛查训练样本的分类器访问权，并行 Agent 生成最多含 5,000 个样本的数据集，监控分类器逐条评估每个训练行，当超过 10% 样本或超过 100 个样本被标记时即拒绝提交。