排序: 最新 热门 引用
cs.LG 2402.19464

Curiosity-driven Red-teaming for Large Language Models

提出好奇心驱动的红队方法CRT,利用探索新颖性提升LLM测试覆盖率,成功在LLaMA2模型中诱发毒性反应。

Zhang-Wei Hong, Idan Shenfeld, Tsun-Hsuan Wang 等

2024-03-01 96 引用 34