核心发现
方法论
BBTv2采用分而治之的无梯度算法，在每层预训练模型中插入连续提示并交替优化。通过这种方法，BBTv2可以在不依赖梯度下降的情况下实现高效的少样本学习。
关键结果
- BBTv2在7个语言理解任务中表现出色，与全模型调优和最先进的参数高效方法相当，同时可调参数大幅减少。
- 在DBPedia等多标签任务中，BBTv2显著加快了收敛速度，提升了准确率。
- 在不同的预训练模型中，BBTv2表现出良好的通用性，尤其是在大型中文模型CPM-2上超越了全模型调优。
研究意义
BBTv2通过减少可调参数和避免梯度下降，降低了大模型调优的计算成本，使得大语言模型的应用更加广泛和经济。这一方法在学术界和工业界都有重要意义，尤其是在资源受限的环境中。
技术贡献
BBTv2在无梯度优化领域引入了分而治之的方法，解决了高维优化问题。通过在每层插入提示，BBTv2扩展了无梯度优化的应用范围，并提供了新的工程实现可能性。
新颖性
BBTv2首次在每层插入连续提示，结合无梯度优化，实现了在不同任务和模型上的通用性。这种方法与传统的梯度下降方法有本质区别，尤其是在高维优化中的创新。
局限性
- BBTv2在某些复杂任务上可能仍需较多的API调用，影响效率。
- 在没有预训练提示嵌入的情况下，某些任务的初始性能可能较低。
未来方向
未来研究可以探索BBTv2在更多类型任务中的应用，优化其在不同模型上的性能，并进一步减少API调用次数。
AI 总览摘要
近年来，大语言模型的规模不断扩大，性能显著提升。然而，随着模型规模的增长，调优成本也呈线性增加。传统的梯度下降方法需要对每个下游任务进行单独的模型调优，这在计算资源有限的情况下变得不可行。为了解决这一问题，研究人员提出了BBTv2，一种改进的无梯度调优方法。BBTv2通过在每层预训练模型中插入连续提示，并采用分而治之的无梯度算法进行优化，实现了少样本学习的高效调优。
BBTv2在多个语言理解任务中表现出色，与全模型调优和最先进的参数高效方法相当，同时大幅减少了可调参数。实验结果表明，BBTv2在DBPedia等多标签任务中显著加快了收敛速度，并在不同的预训练模型中表现出良好的通用性，尤其是在大型中文模型CPM-2上超越了全模型调优。
尽管BBTv2在性能和效率上取得了显著进展，但在某些复杂任务上可能仍需较多的API调用。未来的研究可以探索BBTv2在更多类型任务中的应用，优化其在不同模型上的性能，并进一步减少API调用次数。
深度分析
研究背景
大语言模型近年来取得了显著进展，尤其是在自然语言处理任务中。然而，随着模型规模的扩大，调优成本也随之增加。传统的梯度下降方法需要对每个下游任务进行单独的模型调优，这在计算资源有限的情况下变得不可行。为了应对这一挑战，研究人员提出了参数高效调优方法，如Adapter、LoRA和BitFit等，这些方法通过仅调优部分参数来降低计算成本。
核心问题
随着大语言模型的规模不断扩大，调优成本也随之增加。传统的梯度下降方法需要对每个下游任务进行单独的模型调优，这在计算资源有限的情况下变得不可行。因此，如何在不依赖梯度下降的情况下实现高效的模型调优成为一个重要的研究问题。
核心创新
BBTv2通过在每层预训练模型中插入连续提示，并采用分而治之的无梯度算法进行优化，实现了少样本学习的高效调优。与传统的梯度下降方法不同，BBTv2不依赖于梯度信息，从而大幅减少了计算成本。
方法详解
- �� 在每层预训练模型中插入连续提示。
- �� 采用分而治之的无梯度算法进行优化。
- �� 使用随机线性变换将提示参数投影到低维子空间。
- �� 在生成的子空间中进行无梯度优化。
实验设计
实验在多个语言理解任务上进行，包括SST-2、Yelp、AG's News、DBPedia、SNLI、RTE和MRPC。使用RoBERTaLARGE作为主要的预训练模型，并在其他模型如BERT、GPT-2、BART和T5上验证通用性。实验采用16-shot设置，并使用交叉熵作为损失函数。
结果分析
BBTv2在7个语言理解任务中表现出色，与全模型调优和最先进的参数高效方法相当，同时大幅减少了可调参数。在DBPedia等多标签任务中，BBTv2显著加快了收敛速度，提升了准确率。
应用场景
BBTv2适用于需要高效调优的大语言模型，特别是在资源受限的环境中。它可以用于自然语言处理任务，如情感分析、主题分类和自然语言推理。
局限与展望
尽管BBTv2在性能和效率上取得了显著进展，但在某些复杂任务上可能仍需较多的API调用。此外，在没有预训练提示嵌入的情况下，某些任务的初始性能可能较低。
通俗解读 非专业人士也能看懂
想象你在厨房里做饭。传统的做法是每次做一道新菜都要从头开始，耗时耗力。BBTv2就像是一个万能的调味包，只需在每道菜中加入一点，就能快速调整味道，不需要从头开始。这样不仅节省时间，还能保证每道菜的味道都很出色。通过这种方法，BBTv2可以在不依赖复杂步骤的情况下，实现高效的菜品调味。
简单解释 像给14岁少年讲一样
想象你在玩一个游戏，每次升级角色都要花很多时间和精力。BBTv2就像是一个超级道具，只需简单操作，就能快速提升角色能力，不需要花费大量时间。这样不仅让游戏更有趣，还能让你更快达到目标。通过这种方法，BBTv2可以在不依赖复杂操作的情况下，实现高效的角色升级。
术语表
Black-Box Tuning (黑箱调优)
一种无需访问模型内部参数的调优方法，通过调整输入实现优化。
用于优化大语言模型的提示。
Gradient-Free Optimization (无梯度优化)
一种不依赖梯度信息的优化方法，适用于无法计算梯度的场景。
用于优化提示参数。
Prompt (提示)
在模型输入中插入的特定信息，用于引导模型输出特定结果。
在每层模型中插入以优化性能。
Divide-and-Conquer (分而治之)
一种将复杂问题分解为多个简单子问题的策略，逐个解决。
用于处理高维优化问题。
API Call (API调用)
与应用程序接口进行交互的过程，用于获取或发送数据。
用于模型推理和优化。
开放问题 这项研究留下的未解疑问
- 1 如何进一步减少API调用次数，以提高BBTv2的效率？
- 2 在更复杂的任务中，BBTv2的性能如何提升？
- 3 如何在没有预训练提示嵌入的情况下提高初始性能？
应用场景
近期应用
自然语言处理
BBTv2可以用于情感分析、主题分类等任务，提升模型调优效率。
远期愿景
大规模模型部署
BBTv2可以降低大模型的调优成本，促进其在更广泛领域的应用。
原文摘要
Most downstream adaptation methods tune all or part of the parameters of pre-trained models (PTMs) through gradient descent, where the tuning cost increases linearly with the growth of the model size. By contrast, gradient-free methods only require the forward computation of the PTM to tune the prompt, retaining the benefits of efficient tuning and deployment. Though, past work on gradient-free tuning often introduces gradient descent to seek a good initialization of prompt and lacks versatility across tasks and PTMs. In this paper, we present BBTv2, an improved version of Black-Box Tuning, to drive PTMs for few-shot learning. We prepend continuous prompts to every layer of the PTM and propose a divide-and-conquer gradient-free algorithm to optimize the prompts at different layers alternately. Extensive experiments across various tasks and PTMs show that BBTv2 can achieve comparable performance to full model tuning and state-of-the-art parameter-efficient methods (e.g., Adapter, LoRA, BitFit, etc.) under few-shot settings while maintaining much fewer tunable parameters.