安全paper·· 5 天前推荐指数61
arXiv论文分析1331起儿童相关AI事件：模型评测安全不等于实际安全
Safe by Benchmark, Unsafe in Practice: Lessons from 1331 Child-Related AI Incidents
AI 导读
论文构建了以儿童为中心的AI伤害分类体系，整理并编码了1331起公开报道的儿童相关AI事件。研究发现伤害集中在表征、尊严和心理层面，且多与部署语境、治理和滥用失败相关，而非模型缺陷本身；对个体儿童的伤害还常波及未使用系统的其他儿童。
来源：安全paper · aisecurity.ninja