云边端 IoT 系统中可信分布式机器学习：异构性视角下的安全、隐私与鲁棒性综述
arXiv 发布一篇以安全为中心、面向异构性的可信分布式机器学习（DML）综述，将联邦学习（FL）作为高风险案例，系统梳理云边端 IoT 场景下的资产、对手、信任假设与协同模式。
看学术
AI 安全方向的论文、会议、比赛、教程与资料，按内容形态筛选，支持搜索。
分类筛选2展开收起
攻击手段
防御体系
模型内生风险
系统与组件
应用场景
评测与治理
可解释与机制
共 9 条 · 更新于 11:22
arXiv推荐指数4646
arXiv推荐指数3838 车联网联邦学习的 clean-label 投毒攻防博弈：特征空间攻击与特征一致性重标注防御
arXiv 论文提出车联网联邦学习（FL）中 Basic Safety Message（BSM）异常检测的特征空间 clean-label 投毒攻击，并配套特征一致性重标注防御。攻击将良性样本向恶意特征极值扰动、保持标签不变以降低类别可分性；防御检测并重标注可疑样本。博弈论框架分析攻防均衡，结果显示攻击随被控节点数扩展，而防御在不降低干净准确率的前提下压低攻击成功率、将均衡推向规避攻击区域。
arXiv推荐指数2222 通用 LLM 时代被忽视的上下文隐私：为何统一的提示词隐私框架不可取
论文指出，用户跨多个场景使用单一通用 LLM，促使提示词隐私研究走向统一框架，但这忽视了隐私本质上是上下文相关的，可能带来虚假安全感。作者认为未来统一框架仍需面对提示词隐私多项理想属性间的根本张力，建议转向按应用部署 LLM、按上下文评估隐私框架并提升隐私素养。
arXiv推荐指数2626 CALLIOPE：不依赖嵌入向量、支持差分隐私的 AI 使用主题发现框架
CALLIOPE 是一个自上而下发现大规模非结构化数据（如 LLM 对话）主题层级、并支持差分隐私（DP）的框架，整个流程直接调用 LLM 能力，不依赖向量嵌入聚类。实验显示其在 DP 设置下效用优于现有基于嵌入的方法，高隐私区间尤为明显。团队用传统聚类指标及新提出的效用指标评估了输出质量。
安全paper推荐指数5555 KNOX：面向生成式模型的硬件辅助监管沙箱
Vasisht Duddu、Adam Caulfield、Xi He 在 arXiv:2610.27543 提出 KNOX，一个在 TEE 内运行生成式与 Agent 工作负载的监管沙箱，在保护模型权重的同时按经证明的策略清单约束可用法规、工具调用与系统调用。
arXiv推荐指数4949 Contextual Candour：面向混合敏感度上下文的 LLM 角色感知分级披露
研究者提出“分级披露”（graduated disclosure）访问控制框架，让 LLM 按用户授权级别校准回复的细节与敏感度，而非简单答或拒。该方法将分级披露建模为披露感知生成问题，用奖励优化抑制未授权事实泄露（含改写与近似表述）。在企业与临床基准上，其泄露显著低于 prompt、gating 与监督基线，同时保持正确性与可用性。
arXiv推荐指数1818 Industrial ReMEmbR：将时空记忆扩展至机器人集群
IndustrialRemembr 将 NVIDIA ReMEmbR 扩展为面向机器人集群的共享时空记忆系统，仅在按需时才生成场景描述，从而降低服务端计算开销。
安全paper推荐指数3737 Guided Diffusion：面向可信合成文本生成的扩散语言模型框架
Guided Diffusion 提出一种隐私合成文本生成框架，利用扩散语言模型的可引导性，通过引导采样与重掩码让去噪过程生成符合目标语义分布的流畅文本。语料语义嵌入经差分隐私保护后，生成即为后处理，DP 保证自然延续到合成文本。