arXiv· Mrityunjay Shukla·· 8 天前推荐指数70
LLVMhammer：利用Rowhammer位翻转放大LLM推理延迟与成本
Amplifying Latency and Cost of LLM Inference via Rowhammer Attack
AI 导读
论文提出LLVMhammer，首个通过在Triton编译流水线中诱导位翻转来降低LLM推理速度的Rowhammer攻击。位翻转命中性能关键优化pass后，Triton会生成功能等价但次优的GPU kernel，且因kernel被缓存到磁盘，单次成功位翻转可使后续推理持续降速；作者还构建工具Karnage自动定位可利用的位翻转位置。
来源：arXiv · arxiv.org