核心发现
方法论
本文提出基于LoRA适配器集成的Credal大模型（CLLM），通过构建凸包的Credal集，利用下界和上界概率揭示预测分布的模糊性。引入Credal Token Commitment（CTC）结合下界支持、Credal宽度和交集熵，避免额外生成；扩展至语义空间的Semantic Commitment Consistency（SCC）及其Gap指标，用于检测Token级与语义级支持的不一致。采用多个公开数据集（OpenBookQA、CoQA、TriviaQA、ARC-Challenge）验证模型在hallucination检测、校准、选择性预测和推理任务中的优越表现。
关键结果
- 在问答准确率方面，CLLM在Gemma-2-9B、Llama-3.1-8B、Qwen2.5-7B模型上均优于传统单分布和集成方法，尤其在问答准确率达到92.0%，且在Hallucination AUROC指标上超越其他方法1.5个百分点。
- 在80%覆盖率的选择性预测中，CLLM结合SCC实现OpenBookQA的准确率达99.0%，ARC-Challenge中在0.6%的ECE下表现出色，显示出极强的可靠性和校准能力。
- Credal集的几何特性（如Credal宽度和交集熵）有效反映模型在不确定性表达上的优势，尤其在面对对抗性和信息缺失场景中表现出更强的鲁棒性。
研究意义
该研究突破了传统单一分布表示不确定性的限制，提出Credal集的几何描述，为大模型在安全、可靠性要求高的应用场景提供了理论基础和实践工具。其在问答、推理、 hallucination检测等任务中的优异表现，推动了可信AI的发展，有望在医疗、法律等关键领域实现更安全的模型部署。
技术贡献
技术上，本文首次将Credal集引入大语言模型的下一词预测，通过LoRA集成构建凸包，结合几何指标实现无生成的可信度评估。提出的CTC、SCC及SCC-Gap指标，结合几何和语义信息，提供了多层次的不确定性表达和决策依据。这些方法在保持模型性能的同时，显著增强了模型的鲁棒性和可解释性。
新颖性
本研究创新点在于将Imprecise Probability理论中的Credal集应用到大模型的预测不确定性表达中，区别于传统贝叶斯或集成方法，强调几何和语义的结合，首次实现无生成的可信度评估，填补了大模型可信性量化的空白。
局限性
- 模型在极端信息缺失或对抗性攻击下仍可能出现误判，Credal集的几何复杂性限制了大规模应用的实时性。
- 当前方法依赖多次采样和集成，计算成本较高，未来需优化算法效率以适应实际部署需求。
- 在多模态或更复杂任务中，Credal集的构建和解释仍面临挑战，需结合多源信息进行扩展。
未来方向
未来将探索Credal集在多模态模型中的应用，提升其在对抗环境中的鲁棒性，结合深度学习优化Credal集的几何计算，推动可信AI在实际场景中的落地。同时，研究如何结合强化学习和人类反馈，进一步增强模型的可靠性和可解释性。
AI 总览摘要
随着大规模语言模型（LLMs）在问答、推理和生成任务中的广泛应用，其输出的置信度常被误用，导致模型在不确定场景中表现不佳。传统方法仅用单一概率分布表达不确定性，难以区分模型的 epistemic ignorance 和 genuine ambiguity。本文提出Credal大模型（CLLM），利用LoRA适配器集成构建Credal集，揭示预测分布的几何模糊性。通过几何指标如Credal宽度和交集熵，结合Token级和语义级的支持信息，设计了Credal Token Commitment（CTC）和Semantic Commitment Consistency（SCC）等指标，有效提升模型在hallucination检测、校准和选择性预测中的表现。在多个公开数据集上的实验显示，CLLM在问答准确率、校准误差和鲁棒性方面均优于传统方法，特别是在OpenBookQA和ARC-Challenge任务中表现出色。该方法不仅增强了模型的可信度，还为未来可信AI的研究提供了理论基础和实践工具。尽管如此，模型在极端环境下仍存在误判风险，未来需优化算法效率和扩展多模态应用，推动可信AI在实际场景中的落地。整体来看，Credal集的引入为大模型提供了更丰富的不确定性表达，有望引领AI安全与可靠性的新方向。
深度分析
研究背景
近年来，大规模语言模型（如GPT系列、LLaMA、Qwen）在自然语言理解和生成中取得突破，但其输出的置信度常被误用，导致错误答案的信心过高。传统方法多依赖单一softmax分布或集成平均，难以准确表达模型的不确定性，尤其在安全敏感场景中存在巨大风险。贝叶斯、拉普拉斯、集成等技术虽有所改进，但仍未充分揭示模型的epistemic ignorance。Imprecise Probability和Credal集提供了更丰富的表达方式，已在图像分类和异常检测中取得应用，但在大模型中的探索尚属新颖。
核心问题
核心问题在于如何在大模型中有效表达和利用预测不确定性，尤其是在面对信息缺失、对抗攻击或复杂推理任务时。现有方法多忽略了不确定性几何结构或语义一致性，导致模型在关键场景中表现不可靠。如何结合几何和语义信息，构建可解释、鲁棒的可信度指标，成为亟待解决的难题。
核心创新
创新点包括：1）引入基于LoRA集成的Credal集，利用凸包几何结构揭示预测模糊性；2）设计无生成的Credal Token Commitment（CTC）指标，结合几何和支持信息实现高效决策；3）扩展至语义空间的Semantic Commitment Consistency（SCC），检测Token与语义支持不一致，增强模型可信度。这些创新区别于传统贝叶斯和集成方法，提供了多层次、多角度的不确定性表达。
方法详解
- �� 构建LoRA适配器集，生成多个预测分布，形成点云；
- �� 计算凸包，得到Credal集，提取下界和上界概率；
- �� 设计几何指标（Credal宽度、交集熵）衡量不确定性模糊性；
- �� 采用intersection-probability transform，获得代表分布；
- �� 计算Token级支持（CTC），结合几何指标和支持度，做出决策；
- �� 采样多次生成，进行语义聚类，得到语义支持（SCC）和Gap指标，检测Token与语义支持不一致；
- �� 最终结合几何和语义信息，进行可靠性评估和决策。
实验设计
采用OpenBookQA、CoQA、TriviaQA、ARC-Challenge等数据集，比较单模型、集成模型和Credal模型在问答准确率、校准误差、hallucination检测等指标。设置不同采样次数和模型规模，验证指标的鲁棒性和敏感性。通过AB测试分析Credal指标对模型决策的影响，确保在不同任务场景下的适用性。
结果分析
在问答任务中，CLLM在Gemma-2-9B模型上问答准确率达92.0%，优于传统方法的90.6%；Hallucination AUROC提升至85.4%，比集成方法高出1.5个百分点。80%覆盖率下，CLLM结合SCC实现OpenBookQA的准确率达99.0%，在ARC-Challenge中保持≤0.6%的ECE，显示出极佳的校准和可靠性。Credal几何指标在对抗样本和信息缺失场景中表现出更强的鲁棒性，验证了其在安全应用中的潜力。
应用场景
该方法适用于安全关键的问答系统、医疗诊断、法律咨询等场景，能有效识别模型的模糊性和不确定性，提升信任度。未来可结合多模态信息，扩展到图像、视频等多源数据，推动可信AI的广泛应用。
局限与展望
当前Credal集构建依赖多次采样，计算成本较高，实时性不足。在极端信息缺失或对抗环境下，模型仍可能误判。未来需优化几何算法，降低复杂度，并结合强化学习提升模型鲁棒性。
通俗解读 非专业人士也能看懂
想象你在厨房做菜，手边有很多不同的食材和调料。每次你用不同的食材组合，味道都可能不同，但你知道大致的味道方向。传统的厨师只用一种配方，可能味道偏淡或偏咸。而这项研究就像让厨师同时准备多个配方，然后用一张地图（Credal集）标出各种可能的味道范围。这样，无论你用哪个配方，味道都在这个范围内，不会太偏离。模型也是一样，它用多个预测“配方”来判断答案的可靠性，不仅告诉你“可能的答案”，还告诉你这个答案有多稳妥，能在复杂或不确定的场景中更靠谱。
简单解释 像给14岁少年讲一样
假设你在玩一个猜谜游戏，你有很多朋友在帮你猜答案。每个人的猜测都不一样，有的很确定，有的不太确定。你想知道哪个答案最靠谱，但只看一个朋友的猜测不够，因为他们可能都在猜，但有的猜得很准，有的猜得不太对。于是，你让每个人都说说他们的想法，然后把这些想法画在一张图上，看看哪些答案都在“可能范围”里。这样，你就能更自信地选择答案了。这个方法就像用多个“朋友”一起帮忙，告诉你答案的可靠程度，不仅看谁说得多，也看他们说的范围有多宽。这样，即使有人猜错了，你也知道这个答案是不是值得相信。
术语表
Credal集 (Credal set)
一组概率分布的集合，用于表示不确定性，既包括最坏情况也包括最好情况。
用来描述模型预测中多样的可能性，超越单一概率分布。
LoRA (Low-Rank Adaptation)
一种参数高效的模型微调方法，通过低秩矩阵调整预训练模型参数。
用于集成多个适配器，构建Credal集。
交集熵 (Intersection Entropy)
衡量Credal集几何模糊程度的指标，反映模型在多预测分布间的不确定性。
用于评估预测的模糊性。
Semantic Commitment (语义承诺)
模型对答案语义支持的程度，结合采样生成的语义聚类进行评估。
检测Token级与语义级支持是否一致。
SCC-Gap
衡量Token支持与语义支持不一致的差异指标。
用于识别模型在对抗或信息缺失场景中的不一致性。
开放问题 这项研究留下的未解疑问
- 1 如何在大规模多模态模型中高效构建Credal集仍是未解决的问题，尤其在实时应用中计算复杂度较高。未来需研究更高效的几何算法和多源信息融合策略，以实现更广泛的应用落地。
应用场景
近期应用
安全问答系统
在医疗、法律等关键领域部署可信问答，利用Credal集提升模型在不确定场景中的可靠性和可解释性。
自动内容审核
检测生成内容中的hallucination和偏差，增强内容过滤的准确性和鲁棒性。
远期愿景
可信AI生态系统
构建基于Credal模型的多源、多模态可信AI平台，实现自动决策、风险评估和人机协作的全面提升。
原文摘要
Large language models (LLMs) often produce fluent but incorrect answers with unwarranted confidence. A central limitation is that standard LLMs represent uncertainty through a single predictive distribution, conflating epistemic ignorance with genuine ambiguity. We introduce Credal Large Language Models (CLLMs): an ensemble of LoRA adapters induces a credal set whose lower and upper probabilities expose the spread of plausible predictive distributions rather than collapsing to a single softmax output. From this representation we derive two complementary commitment scores. Credal Token Commitment (CTC) is a token-space score that combines lower-bound support, credal width, and intersection entropy, computed without additional generation. Semantic Commitment Consistency (SCC) extends commitment to semantic space using sampled completions, with SCC-Gap measuring the mismatch between token-level and semantic-level support. We evaluate hallucination detection, calibration, selective prediction, and reasoning on Gemma-2-9B, Llama-3.1-8B, and Qwen2.5-7B across OpenBookQA, CoQA, TriviaQA, and ARC-Challenge. CLLM is the best method on QA accuracy at competitive expected calibration error, and CTC tracks the best hallucination AUROC within 1.5 pp on most settings without additional generation. On selective prediction at 80% coverage, CLLM with SCC reaches 99.0% accuracy on OpenBookQA, and on ARC-Challenge CLLM with Csem confidence achieves <= 0.6% ECE across the three backbones.