CRAFT: A Unified Counterfactual Reasoning Framework for Tabular Question Answering and Fact Verification

TL;DR

提出CRAFT框架,通过双向反事实推理显著提升表格问答与事实验证性能。

cs.CL 🔴 高级 2026-06-05 47 次浏览
Chenshuo Pan Yu Zhao Jie Zhang Changzai Pan Zhenhe Wu Jiayi Liang Yujie Mao Shuangyong Song Yongxiang Li Zhongjiang He
自然语言处理 表格推理 反事实推理 大模型 多任务学习

核心发现

方法论

CRAFT框架由四个模块组成:重写器(Rewriter)将问题转化为陈述,反转器(Reverser)生成反事实陈述,提取器(Extractor)从两个路径提取证据,重新思考器(Rethinker)融合证据与答案。该方法利用双向推理路径,显式构建原始与反事实陈述,结合加权机制整合证据,有效突破单向推理的局限。具体算法包括类型一致性值的采样、SQL式验证程序生成及多路径证据融合,适用于WikiTQ和TabFact等数据集。

关键结果

  • 在WikiTQ和TabFact上,CRAFT分别实现了82.4%和94.6%的准确率,较最优基线提升4.7和1.1个百分点,尤其在复杂问答任务中表现优异。
  • 不同基础模型(如LLaMA 3.3B、Qwen 2.5B)均显著受益,模型间性能差异缩小,验证了反事实推理的普适性和稳健性。
  • 消融实验显示,重写器与反转器协同作用优于单一路径,且多路径推理提升了模型的证据覆盖率和鲁棒性。

研究意义

该研究突破了传统单向推理的瓶颈,提供一种结构化、可解释且稳健的推理范式。通过引入反事实路径,显著改善了大模型在长表格、多步骤推理中的表现,推动结构化数据理解的理论和实践发展。此框架不仅提升了问答和事实验证的准确性,也为未来多任务、多路径推理提供了新思路,具有重要的学术和工业应用价值。

技术贡献

提出反事实推理的统一框架,结合多路径证据融合机制,创新性地将陈述转化、反事实生成、证据提取与决策融合整合为一体。该方法突破了现有单向推理的局限,提供了理论上的多路径信息最大化保证,并在多模型、多任务环境中展现出优越的性能和鲁棒性。

新颖性

首次系统性引入反事实推理到表格推理任务中,打破了以往仅依赖单向推理的局限。通过显式构建反事实路径,增强了推理的多样性和判别性,为结构化数据推理提供了新颖的理论基础和实践方案。

局限性

  • 当前框架依赖大量推理路径,计算成本较高,可能限制在大规模实时应用中的部署。
  • 反事实路径生成依赖模板和规则,可能在极端复杂或噪声数据中表现不佳,泛化能力有待验证。
  • 模型在极端长表格或多维关系推理中仍存在性能瓶颈,未来需结合外部知识和推理引擎优化。

未来方向

未来将探索更高效的路径生成策略,结合外部知识库增强推理能力,扩展到多模态结构化数据,提升模型的泛化和解释能力。同时,研究多路径融合的理论保障和优化算法,推动反事实推理在更复杂任务中的应用。

AI 总览摘要

表格数据作为结构化信息的重要载体,在金融、统计等领域广泛应用。然而,现有大规模语言模型(LLMs)在多步骤推理和长表格理解方面仍面临挑战。传统方法多依赖单向推理路径,限制了模型探索多样假设的能力,导致推理鲁棒性不足。为此,本文提出CRAFT(Unified Counterfactual Reasoning Framework),通过构建原始与反事实推理路径,显式生成支持和反事实陈述,结合多路径证据融合机制,有效增强模型的推理深度和判别能力。该方法在WikiTQ和TabFact两个代表性数据集上表现优异,准确率分别提升4.7和1.1个百分点,尤其在复杂问答任务中表现出显著优势。不同基础模型的实验结果表明,CRAFT显著缩小模型间性能差异,验证了反事实推理的普适性和稳健性。该框架不仅突破了单向推理的局限,也为多任务、多路径推理提供了新思路,推动结构化数据理解的理论与实践发展。未来,研究将聚焦于路径生成效率、多模态融合及推理引擎优化,期望实现更高效、更强大、更具解释性的结构化推理系统。

深度解读

原文摘要

Table reasoning remains challenging for large language models (LLMs), particularly in tasks that require multi-step inference over long and structured tables. Existing approaches predominantly rely on single-direction reasoning, which limits their ability to explore alternative hypotheses across tasks. In this work, we propose CRAFT, a unified Counterfactual Reasoning Framework that reformulates Tabular question answering and fact verification into a general bidirectional verification process. Our method explicitly constructs both declarative statements and their counterfactual variants. Evidence is then extracted from reasoning along both the original and counterfactual paths, and integrated via a weighted mechanism to arrive at the final answer. Experimental results show that our approach consistently surpasses representative baselines on table reasoning datasets such as WikiTQ and TabFact, achieving especially large improvements on complex question answering. Our framework also significantly mitigates performance gaps between different backbone LLMs. This indicates that counterfactual reasoning effectively overcomes the limitations of single-direction inference, guiding LLMs toward more discerning reasoning and establishing a more principled paradigm for structured reasoning tasks. Our code will be made publicly available upon acceptance.

cs.CL