Anthropic 提议失控 AI 须威胁 50 人生命才能被关停

Anthropic 正推动一项立法草案，规定只有当失控 AI 模型使至少 50 人面临紧迫的重伤或死亡风险时，美国联邦政府才能将其关停，Politico 获得了草案副本。草案还允许在模型可能造成至少 $1bn（£750m）财产损失时触发州主导的阻止令，同时阻止各州执行更严格的安全法律，并加大法院叫停危险 AI 系统的难度。