核心发现
方法论
本文提出SSoT，通过引导模型先输出随机字符串以引入熵，然后利用字符串操作（如取模、求和）实现对预定义分布的抽样。结合理论分析，证明该方法在满足一定条件下能减小样本分布与目标分布的总变差距离。实验中在五个前沿LLMs（如deepseek-r1、GPT-4）上验证，显著改善概率指令跟随（PIF）性能，逼近伪随机数生成器效果。同时在NoveltyBench上验证其在开放式任务中的多样性提升。
关键结果
- SSoT在五个模型中将JS散度平均降低51%以上，逼近理想随机采样效果，表现优于Prompt Ensembling和Few-shot方法。
- 在偏置分布下，SSoT依然保持优越性能，几乎达到伪随机数生成器的水平，验证其鲁棒性。
- 在对抗性石头剪刀布游戏中，SSoT帮助模型实现混合策略，增强对Pattern-exploiting bots的抵抗能力。
- 在NoveltyBench上，SSoT显著增加响应多样性，且不牺牲内容质量，验证理论分析的有效性。
研究意义
该研究突破了LLMs在多样性和分布一致性上的固有限制，为实现更符合实际应用需求的非确定性行为提供了新思路。通过结合信息论和哈希技术，提供了理论保证与实践效果的双重支撑，推动大模型在内容生成、行为模拟等领域的应用落地。其方法简单但高效，具有极强的扩展性，为未来多任务、多目标的Prompt设计提供了范例。
技术贡献
技术上，本文提出基于随机字符串的Prompt策略，结合2-Universal Hashing和Sum-Mod操作，理论上证明了在字符相关性存在时依然能保证采样的分布逼近。模型自主选择随机提取策略，提升了方法的适应性和鲁棒性。实验验证了该方法在多个模型和任务中的优越表现，尤其在复杂推理和偏置分布场景下展现出强大能力。
新颖性
首次将随机字符串引入LLM Prompt，通过信息论和哈希技术确保采样分布的忠实性。区别于传统的温度调节或Few-shot方法，SSoT提供了理论保证和高效实现路径，解决模型在多样性和分布匹配上的核心难题。其核心创新在于利用随机字符串作为中介，结合哈希和求和操作实现分布逼近，具有开创性。
局限性
- 该方法依赖随机字符串的长度和字符分布，可能在极端偏置或字符相关性极强的场景下表现不足。
- 理论分析假设字符生成满足一定条件，实际模型可能存在偏差，影响效果。
- 在极大规模或复杂任务中，字符串操作的复杂度可能带来计算成本，需优化算法效率。
未来方向
未来可探索多模态、多任务场景下的扩展，结合强化学习优化随机提取策略，提升模型自主性。还可结合自监督机制，增强模型对随机字符串的理解与操作能力，推动多样性与分布匹配的深度融合。
AI 总览摘要
随着大规模语言模型（LLMs）在自然语言处理中的广泛应用，如何实现符合预定义概率分布的非确定性输出成为关键挑战。传统Prompt设计在单一答案任务中表现优异，但在概率指令跟随（PIF）和多样性生成中存在偏差和模式崩溃问题。本文提出String Seed of Thought（SSoT），通过引导模型先生成随机字符串，再利用字符串操作（如取模、求和）实现对目标分布的采样。该方法结合信息论和哈希技术，理论上保证了在字符相关性存在时仍能减小样本分布与目标分布的总变差距离。实验在五个前沿LLMs上验证，显著优于基线方法，逼近伪随机数生成器的效果，特别在偏置分布和复杂推理场景中表现出色。此外，SSoT在NoveltyBench上的开放式任务中也大幅提升响应多样性，验证了其在实际应用中的潜力。这一创新方法不仅解决了模型在多样性和分布一致性上的核心难题，也为未来多任务、多目标Prompt设计提供了新思路。尽管如此，方法在极端偏置和字符相关性强的场景下仍存在一定局限，未来需结合强化学习和自监督机制进行优化，推动模型在更复杂环境中的表现。整体而言，SSoT为实现更自然、更符合实际需求的LLM行为提供了理论基础和实践路径，具有重要的学术和工业价值。
深度分析
研究背景
近年来，LLMs在自然语言理解和生成任务中取得突破性进展，代表模型如GPT-4、DeepSeek等在多任务、多模态场景中表现优异。早期工作主要关注单一答案的准确性（如问答、翻译），而随着应用拓展到内容多样性、行为模拟等领域，模型在多选、多策略行为中的表现成为焦点。研究发现，尽管模型能描述概率分布，但在实际采样时偏差明显，导致生成内容缺乏多样性，影响应用效果。已有方法如温度调节、Few-shot学习、Prompt Ensembling虽能部分缓解，但难以根本解决分布偏差和多样性不足的问题。近年来，信息论、哈希技术被引入模型调控中，为实现分布忠实采样提供新思路。本文在此背景下提出SSoT，结合随机字符串和哈希操作，旨在突破模型在复杂分布匹配和多样性生成中的瓶颈。
核心问题
核心问题在于，现有LLMs在多选任务中难以准确模拟目标概率分布，表现为偏差大和多样性不足。这不仅影响模型在内容生成、行为模拟中的真实性，也限制其在策略游戏、意见模拟等场景的应用。传统Prompt设计无法有效引导模型进行分布忠实采样，尤其在偏置分布或复杂推理任务中表现更差。此外，模型输出的多样性常因模式崩溃而下降，导致生成内容趋于集中，影响用户体验和任务效果。解决这一问题需要新的Prompt策略，既能保证采样的分布忠实性，又能提升输出的多样性。
核心创新
本文的创新点主要在于引入随机字符串作为中介，通过信息论和哈希技术实现分布逼近。具体包括：1）设计简单的两阶段Prompt，先生成随机字符串，再利用字符串操作实现采样；2）结合2-Universal Hashing，保证字符相关性下的分布忠实性；3）利用求和模操作增强多样性和抗偏差能力。这些创新不同于传统温度调节或Few-shot方法，提供了理论上的分布保证和实际的高效实现路径。模型自主选择随机提取策略，增强了方法的适应性和鲁棒性，为多任务、多目标生成提供了新范式。
方法详解
- �� 输入：任务提示和目标分布；
- �� 生成：模型先输出随机字符串（如字符序列）；
- �� 操作：利用字符串的字符值（如ASCII码）进行取模、求和等操作；
- �� 采样：通过哈希或求和操作，将随机字符串映射到目标分布的类别；
- �� 理论分析：证明在字符生成满足一定条件下，分布逼近误差可随字符串长度增加而减小；
- �� 实验：在五个前沿LLMs上，比较SSoT与基线方法的JS散度、多样性指标，验证理论分析的有效性。
实验设计
采用DeepSeek、GPT-4等模型，评估在多选（如二选、三选、九选）任务中的分布匹配能力。通过不同的分布偏置设置，测试模型在多样性和准确性上的表现。指标包括JS散度、响应多样性（Distinct指标）等。实验设计包括不同的随机字符串长度、操作策略（哈希、求和模），以及与温度调节、Few-shot、Prompt Ensembling的对比。还在对抗性游戏和NoveltyBench上验证实用性。参数设置如随机字符串长度、采样次数均经过调优，确保公平性。
结果分析
SSoT在五个模型中均显著优于基线，JS散度平均降低51%以上，逼近伪随机数生成器效果。偏置分布下，性能仍优异，几乎达到理想状态。在复杂推理和偏置场景中，模型表现出更强的鲁棒性和多样性。在对抗性游戏中，模型能实现混合策略，有效抵抗Pattern-exploiting bots。NoveltyBench上，响应多样性提升明显，内容质量保持稳定。这些结果验证了理论分析的正确性和方法的实用性。
应用场景
该方法适用于内容生成、行为模拟、策略游戏等多样性需求强烈的场景。只需在Prompt中加入简单指令，即可显著改善模型的分布匹配和多样性表现。未来可结合强化学习优化随机提取策略，应用于多模态、多任务环境，推动智能内容生成和行为模拟的行业变革。
局限与展望
在极端偏置或字符相关性极强的场景下，字符生成满足条件的难度增加，影响效果。理论分析假设字符分布满足一定条件，实际模型可能存在偏差。字符串操作的复杂度在大规模任务中可能带来计算成本，需优化算法。此外，方法在极端偏差和高复杂度场景下的鲁棒性仍需进一步验证。
通俗解读 非专业人士也能看懂
想象你在厨房做菜，你需要准备各种调料，但调料的味道和用量都很重要。传统方法就像随便放调料，可能味道偏了。现在，你用一种特别的办法：先随机挑选一包调料，然后用它的包装上的数字（比如编号）决定用多少调料。这样，每次做菜都能保持一定的变化，又不会偏离目标味道。这就像让模型先随机生成一串字符，再用数学方法把它变成不同的答案。这个办法确保每次生成的内容既符合预期，又有丰富的变化，就像你做菜时既要味道正宗，又要多样化。
简单解释 像给14岁少年讲一样
想象你在玩一个游戏，你可以选择不同的动作，但你希望每次选择的概率符合一定规则，比如有一半的几率跳舞，一半的几率跑步。以前，模型就像随便猜，结果偏离了预期。现在，你告诉它：先随机写一串字母，然后用这些字母的数字来决定你要做什么。比如，把字母的ASCII码相加，然后模上动作的数量，就能得到一个数字，用这个数字来选择动作。这样，每次都能公平又有趣地选择动作，不会总是重复同样的。这个方法让模型的行为更像人类随机选择，又符合规则，变得更聪明、更有趣！
原文摘要
We introduce String Seed of Thought (SSoT), a novel prompting method for LLMs that improves Probabilistic Instruction Following (PIF). We define PIF as a task requiring an LLM to select its answer from a predefined set of options, each associated with a specific probability, such that the empirical distribution of the generated answers aligns with the target distribution when prompted multiple times. While LLMs excel at tasks with single, deterministic answers, they often fail at PIF, exhibiting biases problematic for applications requiring non-deterministic behaviors, such as human-behavior simulation, content diversification, and multiplayer games. It also harms the diversity of generated responses, a crucial factor in test-time scaling, by causing the outputs to collapse into a limited set of answers. To address this, we propose SSoT, a simple prompting method that instructs an LLM to first output a random string to generate sufficient entropy. SSoT also instructs the LLM to extract randomness by manipulating this string to derive a final answer, thereby preserving diversity while adhering to specific constraints. We demonstrate that SSoT significantly improves the PIF performance of LLMs, approaching the ideal performance of a pseudo-random number generator. Furthermore, our experiments on NoveltyBench show SSoT's benefits extend beyond closed-set tasks to open-ended tasks by enhancing response diversity.