余姚法院审结AI越狱制作淫秽物品牟利案

浙江省余姚市人民法院审结一起利用生成式人工智能制作淫秽物品牟利案，被告人郑某等六人通过改写系统提示词对基础模型实施越狱、设定角色卡诱导对话场景、开发淫秽图片生成功能，突破大模型内置的色情内容安全限制。一审判决后，当事人均未提起上诉，判决已生效。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。