Answer Engineering: Local Trajectory Editing for Protocol-Constrained Decision Making in Large Language Models

TL;DR

答案工程通过局部轨迹编辑提高大语言模型的协议一致性,SSNHL合规率从25.1%提升至83.5%。

cs.AI 🔴 高级 2026-06-19 6 次浏览
Victor Lavrenko Anastasiia Molodnitskaia
大语言模型 协议一致性 局部轨迹编辑 临床决策 答案工程

核心发现

方法论

本文提出了一种名为答案工程的方法,通过在标准自回归生成过程中应用局部规则引导干预来实现协议一致性。该方法不需要重新训练或修改模型权重,而是通过在生成过程中进行局部轨迹编辑来引导生成过程。具体来说,使用规则引导的局部干预来纠正生成过程中的协议违规行为。

关键结果

  • 在SSNHL基准测试中,局部轨迹编辑将合规率从25.1%提高到83.5%,而在导电性对比条件下的合规率从58.9%提高到77.9%。
  • 在没有引导的生成中,SSNHL合规率为54.5%,而在逐步推理基线下下降到25.1%。
  • 局部轨迹编辑将平衡准确性从仅推理生成的42.0%提高到80.7%。

研究意义

该研究展示了在协议驱动领域中,通过在生成过程中进行可审计的轨迹控制来提高协议一致性的可能性。这对于需要严格遵循程序的领域具有重要意义,如医疗诊断和法律咨询。通过这种方法,可以在不改变模型结构的情况下提高模型的可靠性和准确性。

技术贡献

技术上,答案工程提供了一种在生成过程中进行局部干预的机制,区别于传统的全局搜索或重新训练方法。这种方法允许在不改变模型权重的情况下实现协议一致性,提供了一种新的工程可能性。

新颖性

答案工程首次提出在生成过程中通过局部轨迹编辑来实现协议一致性。与现有方法相比,它不依赖于全局搜索或模型权重的修改,而是通过局部干预来实现。

局限性

  • 该方法的局限性在于规则覆盖范围有限,这可能导致某些协议违规无法被纠正。
  • 触发可靠性问题可能导致某些情况下的干预失败。
  • 诊断优先的生成动态可能限制了某些情况下的协议一致性。

未来方向

未来的研究方向包括扩展规则覆盖范围,提高触发可靠性,并探索在其他协议驱动领域中的应用。此外,还可以研究如何自动生成规则以减少人工干预的需求。

AI 总览摘要

在协议驱动的领域中,大语言模型常常生成自信但不合规的答案。现有的逐步推理方法虽然提高了结构和透明度,但往往只是改变了错误的分布,而不是消除错误。本文提出了一种名为答案工程的方法,通过在生成过程中进行局部轨迹编辑来提高协议一致性。

在临床基准测试中,答案工程显著提高了突发性感音神经性听力损失(SSNHL)和导电性对比条件的合规率。这表明,通过在生成过程中进行可审计的轨迹控制,可以提高协议一致性,而无需重新训练模型或进行全局搜索。

然而,该方法也存在局限性,如规则覆盖范围有限和触发可靠性问题。未来的研究可以通过扩展规则覆盖范围和提高触发可靠性来进一步提高协议一致性,并探索在其他领域的应用。

深度分析

研究背景

大语言模型在生成自然语言文本方面取得了显著进展,但在协议驱动的领域中,生成的答案往往不符合要求。这是因为这些模型在生成过程中缺乏对协议的严格遵循。现有的方法,如逐步推理和结构化推理,虽然提高了模型的透明度,但在协议一致性方面仍然存在不足。

核心问题

在许多领域,如医疗和法律,程序合规性至关重要。大语言模型在这些领域中生成的答案往往不符合协议要求,导致错误的决策。这是因为现有的方法在生成过程中缺乏对协议的严格遵循。

核心创新

答案工程通过在生成过程中进行局部轨迹编辑来实现协议一致性。这种方法不需要重新训练模型或修改模型权重,而是通过在生成过程中进行局部干预来引导生成过程。与现有方法相比,答案工程提供了一种新的工程可能性。

方法详解

  • �� 使用规则引导的局部干预来纠正生成过程中的协议违规行为。
  • �� 在生成过程中进行局部轨迹编辑,而不是依赖全局搜索或模型权重的修改。
  • �� 通过在生成过程中进行可审计的轨迹控制来提高协议一致性。

实验设计

在突发性感音神经性听力损失(SSNHL)基准测试中,评估了答案工程的有效性。测试使用了模板生成的配对案例,并在固定的解码条件下进行比较。结果表明,局部轨迹编辑显著提高了协议一致性。

结果分析

局部轨迹编辑将SSNHL合规率从25.1%提高到83.5%,而在导电性对比条件下的合规率从58.9%提高到77.9%。此外,平衡准确性从仅推理生成的42.0%提高到80.7%。

应用场景

答案工程可以应用于需要严格遵循程序的领域,如医疗诊断和法律咨询。通过在生成过程中进行局部干预,可以提高模型的可靠性和准确性。

局限与展望

该方法的局限性在于规则覆盖范围有限,这可能导致某些协议违规无法被纠正。此外,触发可靠性问题可能导致某些情况下的干预失败。未来的研究可以通过扩展规则覆盖范围和提高触发可靠性来进一步提高协议一致性。

通俗解读 非专业人士也能看懂

想象你在厨房里做饭,按照食谱一步步来。大语言模型就像一个厨师,有时会忘记一些步骤或用错了材料。答案工程就像一个助手,确保厨师在每一步都遵循食谱,不遗漏任何步骤。通过这种方式,最终的菜肴(答案)会更符合预期。

简单解释 像给14岁少年讲一样

想象一下你在玩一个复杂的游戏,需要按照特定的步骤来完成任务。大语言模型就像一个玩家,有时会跳过步骤或做错选择。答案工程就像一个游戏指南,确保玩家在每一步都遵循正确的策略,这样就能更快地赢得游戏!

术语表

局部轨迹编辑 (Local Trajectory Editing)

在生成过程中对推理轨迹进行局部干预,以确保协议一致性。

用于纠正生成过程中的协议违规行为。

协议一致性 (Protocol Compliance)

生成的答案符合特定领域的程序和规则。

在医疗和法律等领域中至关重要。

自回归生成 (Autoregressive Generation)

一种生成文本的方法,其中每个词依赖于之前生成的词。

用于大语言模型的文本生成。

平衡准确性 (Balanced Accuracy)

一种评估模型性能的指标,考虑了不同类别的准确性。

用于评估答案工程的效果。

规则引导干预 (Rule-Guided Intervention)

使用预定义的规则在生成过程中进行干预。

用于确保生成过程中的协议一致性。

开放问题 这项研究留下的未解疑问

  • 1 如何自动生成规则以减少人工干预的需求?
  • 2 在其他协议驱动领域中,答案工程的效果如何?
  • 3 如何提高触发可靠性以确保干预的成功?

应用场景

近期应用

医疗诊断

通过提高协议一致性,帮助医生做出更准确的诊断决策。

法律咨询

确保生成的法律建议符合相关法规和程序要求。

远期愿景

自动化决策系统

在多个领域中实现自动化决策,减少人为错误,提高效率。

原文摘要

Large language models can produce confident but protocol-invalid answers in domains where procedural compliance is critical. This paper presents Answer Engineering, a deterministic runtime and authoring layer that applies localized rule-guided interventions to the visible reasoning trajectory during standard autoregressive generation, without retraining, modifying model weights, or performing global search. The method is evaluated on a controlled clinical benchmark for sudden sensorineural hearing loss (SSNHL), where correct management depends on protocol-consistent interpretation of symptom timing, Weber/Rinne tuning-fork findings, and otoscopic findings. In the benchmark, step-by-step reasoning shifted rather than eliminated errors: compliant outcomes for SSNHL decreased from 54.5% under unguided generation to 25.1%, while acceptance on the conductive contrast condition increased from 1.6% to 58.9%. Local trajectory editing increased SSNHL compliance to 83.5% and conductive-case adherence to 77.9%, raising balanced accuracy from 42.0% under reasoning-only generation to 80.7%. The results support a systems-level view in which protocol adherence can be improved through auditable runtime control of reasoning trajectories, while also identifying limitations caused by rule coverage, trigger reliability, and persistent diagnosis-first generation dynamics.

cs.AI cs.CL