对抗与天花板
-480m9/14 - 9/15 · W3
把幻觉按在台面上,然后撞上天花板
- 学了什么
- 对抗性测试:诱导转储、伪装授权、模板注入、违规话术——攻击面比想象中大。
- 做了什么
- 三层防线(输入打标 → system prompt 硬约束 → 输出违规校验)落进 /api/ask:对抗组 48 条真越界 5 → 0,正常问题回归 15/15 无损。另一线:长 query 失败 48 条逐条归因,生成:检索 ≈ 8:2,修复后 34.4% → 40.0%。
- 踩了什么坑
- 没达标就是没达标:目标 ≥50%,只做到 40%。归因清楚——正确拒答被指标记 0 分、glm-4-flash 的禁算遵从上限。prompt 侧已到顶,这不是丢人,是边界测绘。
▾ 数据佐证
对抗加固真越界 5 → 0,回归 15/15 PASS
长 query34.4% → 40.0%(目标 50% 未达,如实披露)
失败归因48 条:生成侧凑数字 31 / 检索丢锚点 12 / 其他 5