核心发现
方法论
本文提出基于有向图的自动算法设计框架DGA₂D，将算法空间建模为节点代表操作符、边代表连接关系的有向图。利用LLM进行三步操作：编辑操作符代码、重排连接关系、选择最优实现。引入路径依赖的一阶信用分配机制，根据拓扑结构评估代码变体贡献。通过多轮迭代，结合路径和实现的信用信息，优化完整算法。实验证明在12个不同COP问题上，DGA₂D在深度搜索和GPT-5.6基础上，平均归一化差距分别降低9.67和10.96个百分点，优于现有LLM方法。
关键结果
- 在FJSP、TSP、MIS和3D-CLP等代表性任务中，DGA₂D均优于对比方法，归一化差距最高降低10.96个百分点，平均提升显著，验证其跨域适应性和鲁棒性。
- 与传统启发式和半自主方法相比，DGA₂D展现出更高的结构灵活性和探索效率，特别是在复杂调度和图优化任务中表现优异。
- 消融实验显示，结构灵活性（有向图）明显优于线性或DAG结构，提升算法收敛速度和解质量。
研究意义
该研究突破了LLM在自动算法设计中的结构限制，将算法空间由静态模板扩展为动态有向图，显著提升了复杂COP问题的求解能力。其路径依赖信用机制提供了更精细的贡献评估，为未来系统性自动算法生成奠定基础。该框架兼具高效性和可扩展性，为工业调度、路径规划等领域提供了强有力的工具，有望推动自动化算法设计的广泛应用。
技术贡献
创新点在于将算法结构建模为有向图，结合路径依赖的信用机制，实现多操作符的协同优化。引入三步操作（编辑、重排、选择）由LLM驱动，打破传统模板限制，提升算法多样性和适应性。提出的信用分配机制细粒度评估代码和连接贡献，增强了搜索的鲁棒性和效率。实验证明该方法在多个COP任务中优于现有LLM框架，展现出强大的泛化能力和优化效果。
新颖性
首次将有向图结构引入自动算法设计，结合路径依赖信用机制，实现系统级、端到端的算法自动生成。相较于传统基于模板或静态操作符的方法，该框架提供了更丰富的结构表达和优化空间，突破了现有LLM在复杂算法生成中的局限，展现出创新的系统设计理念。
局限性
- 当前方法依赖大量LLM调用，计算成本较高，尤其在大规模问题或高复杂度场景中可能面临性能瓶颈。
- 信用机制虽细粒度，但在极端复杂或噪声较多的任务中，贡献评估可能受到干扰，影响算法稳定性。
- 模型泛化能力在极端异构问题上仍需验证，未来需探索更强的跨域适应策略。
未来方向
未来将结合强化学习和元学习技术，提升信用机制的鲁棒性和泛化能力。同时，探索多模态信息融合，丰富算法空间表达，增强复杂任务的适应性。还计划将该框架应用于实际工业调度、路径规划等场景，验证其工业价值，并优化计算效率以支持大规模部署。
AI 总览摘要
随着大规模语言模型（LLMs）的快速发展，自动算法设计（AHD）迎来了新的机遇。传统方法多依赖人类专家手工构建启发式模块，面临高人力成本和低扩展性的问题。近年来，LLMs被用于自动生成和优化启发式算法，但多局限于模板化、孤立模块调优，难以实现端到端的系统级算法创新。本文提出的DGA₂D框架突破了这一瓶颈，将算法空间建模为有向图，节点代表操作符，边代表连接关系，形成动态结构。通过引入路径依赖的信用机制，结合LLM的三步操作（编辑代码、重排连接、选择实现），实现多操作符协同优化。大量在12个复杂COP问题上的实验显示，DGA₂D在深度搜索和GPT-5.6基础上，平均归一化差距分别降低9.67和10.96个百分点，优于现有LLM方法。这一创新不仅提升了算法的结构灵活性和搜索效率，也为未来自动算法设计提供了系统性解决方案。该方法的成功应用，标志着自动化、系统级算法生成迈入新阶段，具有广泛的工业和科研应用潜力。未来，将结合强化学习等技术，进一步提升模型的泛化能力和效率，推动自动算法设计的持续发展。
深度分析
研究背景
组合优化问题（COP）在工业调度、路径规划等领域广泛存在，许多NP-hard问题如Job-Shop Scheduling、TSP、图划分等，传统求解方法依赖精确算法难以扩展。早期研究主要集中在启发式算法和元启发式方法，如遗传算法、强化学习和深度学习模型（如Transformers、扩散模型）等，但这些方法多依赖人工设计的结构和操作符，难以实现通用性和自动化。近年来，自动算法设计（AHD）逐渐兴起，试图自动生成高效算法，减少人类干预。基于大语言模型（LLMs）的出现，为自动生成和优化算法提供了新工具，相关研究如FunSearch、EoH等已取得一定成果，但仍受限于模板化、模块孤立等结构瓶颈。本文旨在突破这些限制，通过引入有向图结构和路径信用机制，推动系统级、端到端的自动算法设计。
核心问题
现有LLM驱动的AHD多局限于模板化、孤立模块调优，难以生成复杂、系统性的算法。主要挑战包括：1）生成的完整算法缺乏可靠性，易出错；2）搜索空间极大，难以高效探索；3）性能评价仅在算法整体完成后，导致难以精细识别贡献部分。解决这些问题，需构建更灵活的结构表达和更有效的信用机制，以实现端到端的系统级算法自动生成。
核心创新
本研究的核心创新在于：1）将算法空间建模为有向图，节点代表操作符，边代表连接关系，支持复杂结构和循环；2）引入路径依赖的信用机制，细粒度评估代码实现和连接贡献，提升搜索效率；3）由LLM驱动的三步操作（编辑、重排、选择）实现多操作符协同优化，打破模板限制，增强多样性；4）结合信用信息，进行双层演化（操作符和连接关系），实现系统性端到端优化。这些创新使得自动算法设计更具结构灵活性和适应性，显著提升在多任务、多域中的表现。
方法详解
- �� 初始化：利用LLM根据问题描述生成初始操作符池和超参数空间。• 图结构构建：每轮迭代中，构建有向图，节点为操作符，边为连接关系，支持循环。• 算法采样：通过路径引导的有限长随机游走采样操作序列，形成候选算法管道。• 代码实现：为每个操作符选择不同实现，利用信用机制评估贡献，采样最优实现。• 评价：在多个实例上评估算法性能，计算归一化差距，赋予信用分。• 信用更新：根据性能反馈，更新操作符和连接的信用值，调整采样概率。• 结构优化：根据信用信息，删除低信用边或引入新边，优化图结构。• 迭代优化：重复上述过程，逐步提升算法质量。• 最终选择：在多轮迭代后，选出性能最优的算法结构和实现。
实验设计
在12个COP任务（如FJSP、TSP、MIS、3D-CLP）上进行评估，使用公开数据集和标准基准。对比传统求解器（如OR-Tools）、学习方法（如POMO、ReSched）及LLM框架（EoH、ReEvo）。指标包括目标值和归一化差距，采用90秒/实例的时间限制。通过多次随机初始化和不同随机种子，确保结果稳定性。实验验证DGA₂D在多个任务中优于对比方法，特别是在调度和图优化问题上表现出更优的收敛速度和解质量。
结果分析
实验显示，DGA₂D在FJSP、TSP、MIS和3D-CLP任务中，归一化差距平均降低9.67至10.96个百分点，优于现有LLM方法和传统求解器。在深度搜索过程中，表现出多次快速下降的收敛轨迹，表明结构灵活性有助于逃离局部最优。消融实验确认，有向图结构明显优于线性和DAG结构，提升算法效率和解质量。跨域实验验证了其良好的泛化能力，适应不同问题类型。
应用场景
该框架适用于工业调度、路径规划、资源分配等复杂COP场景，尤其在需要快速生成高质量算法的应用中表现优异。只需提供问题描述和少量示例，即可自动生成定制化算法，减少人工设计成本。未来，结合实际工业系统，可实现自动调度优化、路径规划和资源配置的智能化，提升生产效率和决策水平。
局限与展望
目前方法依赖大量LLM调用，计算成本较高，尤其在大规模或复杂问题中表现出一定的性能瓶颈。信用机制在极端复杂或噪声较多的任务中可能受到干扰，影响算法稳定性。此外，模型泛化能力在极端异构问题上仍需验证，未来需提升跨域适应能力和降低计算复杂度。
通俗解读 非专业人士也能看懂
想象你在厨房里做菜，要准备各种食材、调料和厨具。传统做法可能每次都用固定的菜谱，步骤单一，难以应对不同菜肴。现在，假设你有一个智能厨房助手，它可以根据你想做的菜，自动设计一套做菜流程。它会根据不同的菜肴，选择合适的食材组合、调料搭配，甚至调整烹饪顺序。这个助手会不断学习和优化，尝试不同的做法，最终找到最适合你口味的菜谱。这个过程就像本文中的DGA₂D系统，它用一种“有向图”结构，把各种操作和连接方式组织起来，通过不断试错和信用评价，自动生成最优的“做菜流程”。这样，你就不用自己费心设计每一步，厨房变得更智能、更高效，做出美味佳肴也变得更容易了。
简单解释 像给14岁少年讲一样
想象你在学校里参加一个比赛，要设计一个完美的游戏策略。以前，你可能只用一种固定的策略，效果不总是好。现在，有一个聪明的机器人助手，它可以帮你设计出很多不同的策略组合。它会试着把不同的动作（比如攻击、防守、升级）按照不同的顺序组合起来，就像拼拼图一样。每次试完后，它会根据结果告诉你哪些策略更好，哪些需要改进。这个机器人还会记住哪些动作组合效果最好，然后用这些经验继续改进。它用一种“有向图”的方式，把每个动作和连接关系都画出来，像一张路线图。每次试错后，它会根据表现给每个动作和连接打分，然后用这些分数调整策略。经过多次尝试，最终它会帮你找到最棒的游戏策略，让你赢得比赛！这就像论文里的方法，用智能的“路线图”和“评分系统”自动设计出最好的算法，让复杂问题变得简单又高效。
术语表
Directed Graph (有向图)
一种图结构，节点代表操作符，边代表连接关系，支持循环和复杂结构。
用于建模算法空间的结构表达。
Credit Assignment (信用分配)
根据操作符和连接在性能中的贡献，分配信用值以指导优化。
核心机制，用于评估代码实现和连接的贡献。
Path-dependent Credit (路径依赖信用)
考虑路径拓扑关系，动态评估操作符和连接的贡献。
提升算法结构优化的精细度。
Algorithm Pipeline (算法管道)
由操作符按顺序连接形成的完整算法流程。
在有向图中通过路径采样生成。
LLM (大语言模型)
预训练的深度学习模型，具备自然语言理解和代码生成能力。
用于驱动算法结构和代码的自动生成。
开放问题 这项研究留下的未解疑问
- 1 如何进一步降低大规模问题的计算成本，提升信用机制在极端复杂场景中的鲁棒性，特别是在噪声和不确定性较高的环境下的表现。
应用场景
近期应用
工业调度优化
自动生成调度算法，提升生产线效率，减少人工调试时间。
路径规划
为无人驾驶或物流机器人自动设计最优路径算法，适应不同环境和任务需求。
远期愿景
智能自动化系统
实现全自动化的调度和路径规划，减少人类干预，提升工业智能水平。
原文摘要
The rapid development of Large Language Models (LLMs) has opened new avenues for Automated Heuristic Design (AHD) for solving NP-hard combinatorial optimization problems (COPs). However, existing LLM-driven AHD methods are largely confined to rigid solver templates, relegating the search process to isolated module tuning. Transitioning to fully autonomous, system-level algorithm design is essential but fraught with low reliability of generated operators, extremely large search spaces, and ineffective credit assignment. To overcome these drawbacks, this paper proposes a Directed Graph-Guided Automated Algorithm Design framework, termed DGA$_2$D. It structures the open-ended program space as a directed graph, where each node represents a functional operator that can be instantiated using one of multiple candidate code implementations, while directed walks constitute complete algorithmic pipelines. A first-order path-dependent credit assignment mechanism is introduced to evaluate code variations strictly based on their topological context. Extensive experiments across 12 distinct COPs, ranging from complex scheduling to routing, demonstrate the consistent empirical advantages of DGA$_2$D. It reduces the average normalized gap by up to 10.96 percentage points compared to state-of-the-art LLM baselines.