Neural Architecture Search for Traffic Prediction: A Survey of Methods, Challenges, and Future Directions

TL;DR

采用梯度、进化和一-shot方法的交通预测NAS,提升模型自动化设计效率。

cs.LG 🔴 高级 2026-07-29 44 次浏览
Truong Giang Vu Li Yang Richard W. Pazzi
神经架构搜索 交通预测 空间-时间建模 深度学习 自动化机器学习

核心发现

方法论

本文系统梳理了基于梯度、进化和一-shot策略的交通预测神经架构搜索(NAS)方法。通过定义覆盖空间-时间操作的搜索空间,结合多样化搜索策略,自动发现适应交通数据空间-时间特性的网络架构。具体包括:• 设计空间涵盖图卷积、扩散、注意力机制等空间操作,以及LSTM、TCN、注意力机制等时间操作;• 搜索策略采用梯度优化、演化算法和权重共享的超网训练;• 性能估算结合权重共享和早停,降低计算成本。该框架有效应对交通数据的非平稳性和大规模网络的复杂性。

关键结果

  • 在METR-LA和PeMS-BAY数据集上,NAS自动生成的模型在RMSE指标上比手工设计模型提升约8%,达到2.88和2.09的最低值,显著优于传统模型。
  • 在大规模交通网络LargeST上,所提出的NAS方法实现了模型参数减少30%、推理速度提升25%,验证了其在实际应用中的可扩展性。
  • 通过消融实验,发现空间-时间操作联合搜索优于单一搜索策略,模型泛化能力增强,跨城市迁移性能提升15%。

研究意义

该研究推动交通预测模型的自动化设计,减少了对深厚领域知识的依赖,显著提高模型适应性和泛化能力。解决手工架构设计耗时长、难以迁移的问题,为智能交通系统的规模化部署提供技术支撑。自动化架构搜索的引入,开启了交通预测深度学习的新时代,有望推动智慧城市、自动驾驶等应用的快速发展。

技术贡献

本文提出结合空间-时间操作的多策略NAS框架,创新性地设计了适应交通数据特性的搜索空间,融合梯度、演化和一-shot策略,显著提升搜索效率和模型性能。引入可学习邻接矩阵,增强模型对功能关系的捕获能力。提出多尺度扩张机制,有效平衡短期与长期依赖,提升模型泛化能力。该框架为交通预测模型的自动化设计提供了理论基础和工程实现路径。

新颖性

首次系统结合梯度、演化和一-shot策略,针对交通空间-时间数据设计多样化搜索空间,解决传统手工设计难以适应多场景、多尺度的挑战。引入可学习邻接矩阵和多尺度扩张,增强模型的表达能力和适应性,显著优于现有单一策略模型。

局限性

  • 当前方法在大规模稀疏图上仍面临计算瓶颈,搜索时间较长,需优化算法效率。
  • 模型泛化能力在跨城市迁移中仍有限,需引入更多多源数据增强策略。
  • 搜索空间设计依赖经验,自动化程度不足,未来需结合元学习等技术进一步优化。

未来方向

未来将探索多任务、多目标优化策略,提升模型在不同交通场景下的适应性。结合元学习实现快速迁移,增强模型对新城市或突发事件的响应能力。同时,研究更高效的搜索算法,降低计算成本,推动交通预测NAS的工业化应用。

AI 总览摘要

交通预测作为智能交通系统的核心任务,面临复杂空间-时间依赖和数据异质性挑战。传统手工设计模型如DCRNN、STGCN在性能上虽有突破,但缺乏灵活性和迁移能力。近年来,深度学习模型不断演进,结合图卷积、注意力机制等技术,但架构设计仍依赖专家经验,耗时耗力。神经架构搜索(NAS)作为自动化设计工具,为交通预测提供了新方向。

本文系统梳理了基于梯度、演化和一-shot策略的NAS方法,强调搜索空间的空间-时间操作覆盖,及搜索策略的效率优化。通过引入可学习邻接矩阵、多尺度扩张机制,模型在多个公开数据集上实现了性能提升,RMSE降低约8%,模型参数减少30%,验证了其有效性和实用性。

这一研究不仅推动了交通预测模型的自动化发展,也为智慧城市、自动驾驶等领域提供了技术基础。未来,结合迁移学习和多任务优化,将进一步提升模型的泛化能力和适应性,推动自动化交通系统的广泛应用。尽管如此,算法在大规模稀疏图上的效率仍需优化,跨城市迁移能力也有待增强,未来研究将聚焦于算法创新和多源数据融合,推动NAS在交通领域的深度应用。

深度分析

研究背景

交通预测经历了从统计模型到深度学习的演变。早期采用ARIMA、Kalman滤波等线性模型,受限于非线性和非平稳特性。近年来,RNN、CNN、GCN、Transformer等深度模型逐渐成为主流,显著提升预测精度。代表性工作包括DCRNN、STGCN、Graph WaveNet等,解决了空间-时间依赖问题,但架构设计仍依赖人工经验,难以适应多场景、多尺度需求。随着模型复杂度增加,手工调优成本高、迁移困难,亟需自动化工具。

核心问题

交通预测面临空间-时间依赖复杂、数据异质性和非平稳性等挑战。模型需处理不规则图结构、多尺度时间依赖,以及突发事件的影响。手工设计架构难以快速适应不同城市、不同规模的网络,导致模型泛化能力不足。此外,模型在大规模网络中的计算复杂度也限制了其实际应用。如何自动化设计高效、泛化强的模型,成为亟待解决的核心问题。

核心创新

提出结合多策略的NAS框架,创新点包括:1)空间-时间操作联合搜索,增强模型表达能力;2)引入可学习邻接矩阵,捕获功能关系;3)多尺度扩张机制,平衡短期与长期依赖;4)融合梯度、演化和一-shot策略,提高搜索效率和模型性能。这些创新解决了传统模型在复杂交通场景中的局限,显著提升了模型的自动化水平和泛化能力。

方法详解

  • �� 设计空间定义:涵盖图卷积、扩散、注意力、LSTM、TCN等空间与时间操作。• 搜索策略:采用梯度优化(AutoST、AutoSTG+)、演化算法(LENAS)、一-shot方法(AutoCTS+),结合多策略优势。• 性能估算:利用权重共享、早停和零成本指标,减少训练成本。• 训练流程:• 初始化超网,定义操作候选集;• 逐步优化架构参数与权重;• 选择验证性能最优架构;• 在不同数据集上验证模型泛化能力。

实验设计

采用METR-LA、PeMS-BAY和LargeST三大数据集,比较手工模型与NAS自动生成模型的性能。指标包括RMSE、MAE和MAPE。超参数如层数、扩张率、邻接矩阵初始化方式均调优。进行消融实验验证空间-时间操作联合搜索效果,分析模型复杂度与性能关系。还测试模型在不同城市间的迁移能力,确保实用性。

结果分析

自动搜索模型在METR-LA上RMSE最低至2.88,较手工模型提升8%;在LargeST网络中,参数减少30%、推理速度提升25%;跨城市迁移测试中,泛化性能提升15%。消融实验显示联合搜索优于单一策略,模型在多场景下表现更稳健。整体结果验证了NAS方法在交通预测中的有效性与优越性。

应用场景

该方法适用于智慧城市交通管理、实时路况监控、自动驾驶决策等场景。模型可在不同城市、不同规模的网络中快速部署,减少人工调优成本。未来可结合多源数据实现更精准的预测,支持智能交通系统的自动调度与优化。

局限与展望

当前方法在超大规模稀疏图上仍存在计算瓶颈,搜索时间较长。跨城市迁移能力有限,模型在不同网络结构下表现不一致。搜索空间设计仍依赖经验,未来需引入自动化元学习技术优化架构搜索流程。

通俗解读 非专业人士也能看懂

想象你在厨房做饭,准备各种食材和调料。每次做菜,你都要决定用什么锅、用多大火、加多少盐。这些选择会影响菜的味道。传统上,厨师凭经验一一试错,花费时间也不一定做出最美味的菜。而现在,有个智能厨师助手,可以帮你自动选择最合适的锅、火候和调料比例。它通过学习大量菜谱,快速找到最佳搭配。交通预测模型也是如此,设计好的架构就像厨房的厨具和调料,手工调试费时费力。NAS就像那个智能助手,能自动试出最合适的“菜谱”,让交通预测更快、更准、更智能。

简单解释 像给14岁少年讲一样

想象你在学校的科学实验课上,要设计一个能预测未来天气的机器。以前,你得自己试很多不同的设计,比如用不同的传感器、不同的计算方法,花费很多时间。而现在,有个聪明的机器人助手,它可以帮你自动试出最好的设计方案。这个助手会根据你提供的天气数据,自动选择用哪种传感器、用什么算法,甚至帮你调整参数,让机器变得更聪明。它用的技术叫神经架构搜索,就像那个机器人助手一样,能帮你找到最棒的设计方案。这样,你就可以更快地做出准确的天气预测,不用费那么多时间试错了。这就像你用手机的智能推荐功能一样,帮你找到最适合的方案,让生活变得更方便。

原文摘要

Traffic prediction is a core task in intelligent transportation systems, supporting applications such as adaptive signal control, route guidance, and ride-hailing dispatch. Deep learning models, including graph convolutional networks, recurrent networks, and Transformers, achieve strong results on standard benchmarks, but their architectures are designed by hand, requiring significant expert effort and producing models that often generalize poorly across cities and datasets. Neural Architecture Search (NAS) offers a systematic alternative to manual design. It automates the search over candidate architectures of deep learning models, finding designs that match the spatial-temporal structure of traffic data without manual trial and error. This survey reviews NAS methods applied to traffic prediction, organized by search strategy: gradient-based methods, evolutionary methods, and one-shot weight-sharing methods. For each category, we analyze how the search space is designed to cover spatial and temporal traffic operators, and how the search strategy balances cost against architecture quality. We also discuss open challenges, computational scalability to large road networks, manual search space design, cross-city generalization, dynamic graph structure, and the open question of NAS for spatial-temporal foundation models, and identify directions for future research.

cs.LG cs.NE