核心发现
方法论
CreativityNeuro采用对比权重调整方法，不依赖数据集或梯度微调。通过对比创造性和非创造性提示，计算参数重要性，选择与创造性相关的参数并进行权重扰动。
关键结果
- CreativityNeuro在DAT上提升了14个人类百分位点，显著优于其他基线方法。
- 在AUT和Task Task中，CreativityNeuro提高了原创性和惊奇度，表现优于激活调整。
- CreativityNeuro在所有任务中减少了模式崩溃现象。
研究意义
该研究为提升大语言模型的创造力提供了一种无需行为数据或重新训练的简单方法，解决了模型在开放性任务中生成相似响应的问题。
技术贡献
CreativityNeuro在权重空间进行调整，避免了行为数据的依赖，展示了在未见任务上的良好泛化能力。
新颖性
首次在无需数据的情况下，通过权重调整提升模型的发散性思维能力，区别于依赖行为数据的激活调整方法。
局限性
- 在某些复杂任务中，创造力提升可能导致实用性下降。
- 方法对不同模型的效果可能不一致。
未来方向
未来研究可探索如何在不影响实用性的情况下进一步提升创造力，并验证方法在更多任务中的适用性。
AI 总览摘要
大语言模型在处理开放性问题时，常常生成相似的响应，导致创造力受限。现有方法多依赖行为数据或梯度微调，难以广泛应用。CreativityNeuro通过对比权重调整，提升了模型的发散性思维能力，无需数据集或重新训练。
CreativityNeuro在Divergent Association Task (DAT)上表现优异，提升了14个人类百分位点。在Alternative Uses Test (AUT)和Task Task中，模型的原创性和惊奇度显著提高，且模式崩溃现象减少。与激活调整相比，CreativityNeuro展示了更强的泛化能力。
尽管在某些任务中创造力的提升可能影响实用性，CreativityNeuro为增强模型在创造性领域的表现提供了新思路。未来研究可进一步优化方法，以在不影响实用性的前提下提升创造力。
深度分析
研究背景
近年来，大语言模型在生成任务中取得了显著进展，但在处理开放性问题时，常常出现模式崩溃现象，即生成的响应趋于相似，限制了创造力的发挥。现有方法多依赖行为数据或梯度微调，难以广泛应用。
核心问题
大语言模型在开放性任务中生成相似响应的问题被称为人工蜂群效应。这限制了模型在创造性任务中的应用，尤其是在需要多样化和新颖性解决方案的场景中。
核心创新
CreativityNeuro通过对比权重调整提升发散性思维能力。与依赖行为数据的激活调整不同，该方法无需数据集或重新训练，展示了在未见任务上的良好泛化能力。
方法详解
- �� 通过对比创造性和非创造性提示，计算参数重要性
- �� 选择与创造性相关的参数
- �� 对这些参数进行权重扰动，提升模型的创造力
实验设计
实验在DAT、AUT和Task Task上进行，使用多种模型和不同的提示集进行测试。通过人类评估，验证了CreativityNeuro在原创性和惊奇度上的提升。
结果分析
CreativityNeuro在DAT上提升了14个人类百分位点，在AUT和Task Task中提高了原创性和惊奇度，且减少了模式崩溃现象。
应用场景
该方法可用于提升大语言模型在创造性任务中的表现，如创意写作、广告文案生成等。
局限与展望
尽管方法提升了创造力，但在某些任务中可能导致实用性下降。未来研究可探索如何在不影响实用性的情况下进一步提升创造力。
通俗解读 非专业人士也能看懂
想象你在厨房里做饭。现有的大语言模型就像一个只会做一种菜的厨师，虽然技术娴熟，但缺乏创意。CreativityNeuro就像给厨师提供了一本新的食谱，让他可以尝试不同的菜式。通过调整一些关键的调料比例（即模型的权重），厨师可以创造出更多样化的菜肴，而不需要重新学习做菜的基本技巧。这样，厨师不仅能做出美味的菜肴，还能不断创新，满足不同食客的口味。
简单解释 像给14岁少年讲一样
想象你在玩一个游戏，游戏里的角色总是做同样的事情，这样会不会很无聊？CreativityNeuro就像是给角色加了一些新技能，让他们可以做出更多有趣的动作！这样一来，游戏就变得更有趣啦！而且，这些新技能是通过调整角色的属性实现的，不需要重新设计角色哦！这就像是给你的游戏角色换了一套新装备，让他们在冒险中有更多的选择和可能性！
术语表
发散性思维 (Divergent Thinking)
一种生成多样化和新颖性解决方案的能力，常用于评估创造力。
在论文中用于评估模型在开放性任务中的表现。
模式崩溃 (Mode Collapse)
模型生成的响应趋于相似，缺乏多样性和新颖性。
在开放性任务中，模式崩溃限制了模型的创造力。
对比权重调整 (Contrastive Weight Steering)
通过对比不同提示，调整模型权重以提升特定能力的方法。
CreativityNeuro通过该方法提升模型的发散性思维能力。
Divergent Association Task (DAT)
一种评估发散性思维能力的任务，要求生成语义距离较大的词语。
CreativityNeuro在该任务中表现优异。
Alternative Uses Test (AUT)
一种心理测量工具，要求为常见物品生成创造性用途。
用于评估CreativityNeuro在复杂任务中的创造力表现。
开放问题 这项研究留下的未解疑问
- 1 如何在不影响实用性的情况下进一步提升创造力？现有方法在某些任务中可能导致实用性下降，需要探索新的优化策略。
- 2 CreativityNeuro在不同模型和任务中的表现是否一致？需要更多实验验证其泛化能力。
应用场景
近期应用
创意写作
提升大语言模型在创意写作中的表现，生成更具新颖性和多样化的内容。
远期愿景
智能创作助手
实现更智能的创作助手，帮助用户在各种创意任务中提供灵感和建议。
原文摘要
Divergent thinking is a crucial aspect of creativity, yet large language models (LLMs) tend to consistently generate similar responses to open-ended questions, in what has been termed the artificial hivemind effect. Here, we introduce CreativityNeuro, a data-free method for enhancing divergent thinking in LLMs via contrastive weight steering. We evaluate our method across multiple creativity assessments and report several main findings. On the Divergent Association Task (DAT), a vocabulary-space creativity test, CreativityNeuro improves performance by up to 14 human percentile points. Next, in a large-scale human evaluation (N=720) on the Alternative Uses Test (AUT) and the Task Task, CreativityNeuro achieves significant improvements in originality, surprise, and creativity, transferring to longer-form and more open-ended tasks. Importantly, we find that across all three tasks, CreativityNeuro demonstrably reduces measures of mode collapse. Moreover, activation steering achieves comparable performance to CreativityNeuro on the DAT, but it does not transfer to the AUT and Task Task, demonstrating the effectiveness of weight-space steering in generalizing to unseen tasks. In conclusion, CreativityNeuro improves divergent thinking and reduces mode collapse without requiring behavioral data, re-training, or gradient-based fine-tuning, providing a straightforward way to enhance LLM performance in creative domains.