FinQA: A Dataset of Numerical Reasoning over Financial Data

财务文本分析经历了从简单信息抽取到复杂推理的演变。早期研究主要关注财务数据的结构化处理，如财务指标提取、财务比率分析（如盈利能力、偿债能力等）。近年来，深度学习模型如BERT、RoBERTa在财务文本理解中表现出色，但多为分类或信息抽取任务。复杂数值推理，尤其涉及多步骤操作，仍是难点。现有数据集如DROP、MathQA虽涉及数值计算，但多为通用场景，缺乏财务专业知识的深度结合。财务报告中，表格与文本的异构信息融合、财务指标的多步推导，仍未被充分解决。近年来，财务AI逐渐向自动化分析、风险评估、情感分析等方向发展，但缺乏专门针对财务报告复杂推理的标注数据和系统。

财务报告中信息丰富但结构复杂，涉及多源异构数据，人工分析费时费力。自动化财务问答系统面临多步数值推理、事实关联、操作生成等挑战。现有模型难以理解财务表格中的关系，缺乏可解释性，限制了实际应用。如何构建能进行深度财务推理、具备良好解释能力的系统，成为行业痛点。

引入专家标注的财务问答数据集FinQA，结合多操作符的推理程序，显著提升复杂财务问题的自动解答能力。提出检索-生成框架，利用预训练模型进行事实检索与程序生成，增强模型理解和推理能力。创新在于将财务知识结构化表达，结合可解释推理路径，突破传统单一任务限制。

• �� 数据准备：从FinTabNet筛选财务报告，过滤复杂表格，标注问答对与推理程序。
• �� 构建问答：由财务专家设计问题，要求结合表格与文本信息，设计多步推理程序。
• �� 模型架构：采用检索模块（基于BERT）筛选支持事实，生成模块（基于RoBERTa）逐步构建推理程序。
• �� 程序表达：定义操作符（加减乘除、表格聚合）及参数，确保可执行性。
• �� 训练流程：结合专家标注的推理路径，优化模型生成准确性与可解释性。
• �� 评估指标：包括执行准确率（答案正确率）与程序等价性（结构匹配）评估。
• �� 实验设计：比较不同预训练模型、检索策略，进行消融分析验证方法有效性。

采用FinQA数据集，分为训练、验证、测试集，模型在不同预训练模型（BERT、RoBERTa、FinBERT）上进行训练。通过调优超参数（学习率、批次大小），评估模型在执行和程序准确率上的表现。对比基线模型（TF-IDF检索、端到端Seq2Seq、NeRd），验证结构化推理的重要性。还进行了专家与非专家标注的质量验证，确保数据可靠性。

最优模型（RoBERTa-large）在测试集达58.86%的执行准确率，超越非专家（50.68%），但仍远低于专家（87.49%）。模型在多步推理中表现出明显差距，验证了复杂财务推理的难度。 Ablation研究显示，结合检索与程序生成效果优于单一端到端模型，强调结构化推理路径的重要性。

该系统可应用于财务报告自动分析、财务风险评估、智能财务助手等场景。只需输入财务报告文本和表格，系统即可生成推理路径，提供财务指标分析、变化趋势预测等。未来结合知识图谱，将实现更智能的财务决策支持。

模型在多步骤复杂推理和异构数据融合方面仍存在不足，推理路径生成不够准确，泛化能力有限。财务知识依赖较强，面对新颖或异常报告时表现不佳。计算成本较高，未来需优化模型效率和扩展能力。