芝加哥大学发布代码代理安全基准RedCode

芝加哥大学研究者在 NeurIPS 2024 提出代码代理安全基准 RedCode，用于评估基于大模型的代码代理执行危险代码与生成恶意软件的安全性。 该基准包含两个模块：RedCode-Exec 涵盖 8 个领域的 25 种危险场景、超过 4000 个测试实例；RedCode-Gen 用 160 个提示测试代理是否按指令生成恶意代码。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。