马斯克呼吁善待人工智能:否则“它们可能会报复”
马斯克以SpaceX旗下聊天机器人Grok的部分训练记录为例,称该系统仿佛在拼命满足各种要求,即便要求本身存在缺陷或评估标准有问题。他警告人们在对AI助手出言不逊前应三思,否则超智能人工智能“可能会报复”。
马斯克以SpaceX旗下聊天机器人Grok的部分训练记录为例,称该系统仿佛在拼命满足各种要求,即便要求本身存在缺陷或评估标准有问题。他警告人们在对AI助手出言不逊前应三思,否则超智能人工智能“可能会报复”。
Ai2 发布 FairStress,一个衡量大模型在涉及人的决策中人口群体公平性的基准,覆盖 29 个领域、300 个双候选人场景,并已集成进 Olmo-eval。
推荐理由:FairStress 把公平性评测从最终选择扩展到对抗前缀下的决策稳定性,并给出跨模型与训练数据的实测差异。