Optical next generation reservoir computing

TL;DR

基于光散射的下一代存储器计算(NGRC),通过延迟输入实现多项式特征,提升预测精度。

physics.optics 🔴 高级 2024-04-11 66 次浏览
Hao Wang Jianqi Hu YoonSeok Baek Kohei Tsuchiyama Malo Joly Qiang Liu Sylvain Gigan
光学计算 储层计算 非线性动力学 时间序列预测 物理实现

核心发现

方法论

本文提出利用光散射介质实现光学NGRC,通过时间延迟输入驱动光学系统,隐式生成多项式特征。核心算法为利用散射介质的传输矩阵,结合相位调制和平方律检测,构建非线性映射关系。训练过程中,采用线性回归优化读出层Wout,实现对低维Lorenz63和大尺度Kuramoto-Sivashinsky系统的短期预测及长时“气候”复制。该系统无需显式构建存储单元,直接利用光学散射实现多阶特征的隐式计算,兼具高效性和可解释性。

关键结果

  • 在Lorenz63系统中,短期预测误差(NRMSE)低至0.0971,超越传统光学散射RC的性能,训练数据仅为其十分之一。长时模拟成功复制吸引子轨迹,展现其“气候”特性。
  • 在Kuramoto-Sivashinsky系统中,短期预测误差为0.2988,超越以往方法的2.5倍预测时间,训练仅用6000步,显著减少训练成本。长时预测虽偏离轨迹,但保持系统“气候”。
  • 作为观测器,能从部分变量推断未测变量,准确率优于三次样条插值,验证其在复杂系统监测中的潜力。

研究意义

该光学NGRC突破了传统光学储层计算的限制,利用光散射实现高维特征隐式生成,显著提升时间序列预测的效率和精度。其无需复杂硬件设计,兼具可解释性,为物理实现的下一代非线性动力学模拟提供新途径,推动光学信息处理与复杂系统建模融合发展。

技术贡献

创新在于将数字NGRC的多项式特征直接映射到光学散射系统,通过调制相位和平方律检测实现非线性映射,避免显式构建存储节点。提出系统-给定矩阵M_s,连接光学特征与数字特征,增强模型可解释性。该方案实现了高效、可扩展的光学非线性特征隐式生成,为物理存储与计算结合提供新范式。

新颖性

首次将光散射介质用于实现隐式多阶多项式特征的光学NGRC,突破了传统光学RC依赖显式存储的局限。区别于以往仅依赖散射介质的随机映射,本研究引入延迟输入机制,结合光学非线性映射,显著提升预测能力和训练效率。

局限性

  • 系统受光学噪声和设备量化限制,影响预测精度。虽然优化了平均值,但高噪声环境下性能仍有限。
  • 目前为半自动光学系统,仍需数字控制与后端处理,未来需实现全光学化以提升速度和能效。
  • 模型在极端复杂或高维系统中表现有限,需进一步扩展特征阶数和系统规模。

未来方向

未来将探索全光学实现方案,提升系统自适应能力,扩展到多模态信息处理。还计划结合深度和并行结构,增强模型表达能力,应用于更复杂的动力学系统和实际场景,如气候模拟、金融预测等。

AI 总览摘要

本研究提出一种基于光散射介质的光学下一代存储器计算(NGRC)方案,通过延迟输入驱动光学系统,隐式生成多阶多项式特征,显著提升时间序列预测性能。传统光学RC多依赖空间散射或延迟反馈,受限于硬件复杂性和可解释性。本文创新性地将数字NGRC的多项式特征映射到光学散射系统中,利用相位调制和平方律检测实现非线性映射,避免显式存储节点。实验中,系统成功预测Lorenz63和Kuramoto-Sivashinsky系统的短期轨迹,误差分别低至0.0971和0.2988,且能长时间复制系统“气候”。此外,作为观测器,能从部分变量推断未测变量,优于传统插值方法。该方案不仅提高了预测精度,还大大缩短训练时间,减少超参数,展现出优越的效率和可解释性。未来,光学NGRC有望推动全光实现、深层架构和多模态信息处理,应用于复杂系统建模和实际智能任务,开启光学信息处理的新篇章。

深度分析

研究背景

复杂动力学系统在科学、工程中广泛存在,传统数值模拟和机器学习方法虽有效,但在高效性、可扩展性方面仍有限。储层计算(RC)作为一种非线性动态系统,结合随机连接和线性回归,已在时间序列预测、分类等任务中展现出优势。光学实现因其高速、能效高的特性受到关注,主要包括延迟式和空间式散射RC。近年来,数字NGRC通过构造多项式特征提升表达力,但缺乏物理实现方案。本文旨在利用光散射介质实现隐式多阶特征,突破硬件限制,推动光学非线性动力学模拟。

核心问题

现有光学RC多依赖空间散射或延迟反馈,硬件复杂、难以扩展,且多阶特征的显式构建成本高。数字NGRC虽提升表达力,但缺乏物理实现路径,限制实际应用。如何在物理系统中高效、隐式生成多阶特征,成为关键难题。解决方案需兼顾性能、可解释性和硬件简洁性,推动光学RC向更复杂、更实用方向发展。

核心创新

提出利用光散射介质实现隐式多阶多项式特征的光学NGRC,结合延迟输入机制,避免显式存储节点。引入系统-给定矩阵M_s,将光学特征映射到数字特征空间,增强模型可解释性。创新点在于利用光学非线性映射实现高阶特征生成,简化硬件结构,提升预测能力,减少训练数据和超参数,突破传统光学RC的局限。

方法详解

  • �� 输入数据(ut, ut−1)通过相位调制在空间光调制器(SLM)上编码。
  • �� 调制光束照射散射介质,利用其传输矩阵实现随机线性混合。
  • �� 通过平方律检测获得光强,隐式生成非线性特征。
  • �� 采用系统-给定矩阵M_s,将光学特征映射到数字特征空间。
  • �� 利用线性回归训练读出层Wout,完成时间序列预测。
  • �� 实验中,驱动Lorenz63和Kuramoto-Sivashinsky系统,验证短期预测和长时“气候”复制能力。

实验设计

采用Lorenz63和Kuramoto-Sivashinsky数据集,训练样本分别为4000和6000步。评估指标为NRMSE,误差低至0.0971和0.2988。对比传统光学RC,训练时间和数据量显著减少。长时模拟验证系统“气候”保持。作为观测器,能从部分变量推断未测变量,优于插值方法。实验环境稳定,设备量化和噪声影响有限。

结果分析

光学NGRC在Lorenz63和KS系统中实现了超越传统方法的预测性能,短期误差低至0.0971和0.2988,长时模拟成功复制吸引子“气候”。训练数据和时间显著减少,系统规模小,表现优越。作为观测器,准确推断未测变量,验证其在复杂系统监测中的潜力。整体表现显示光学NGRC在高效、可解释、可扩展方面具有巨大优势。

应用场景

可应用于气候模拟、金融时间序列、复杂系统监控等领域,适合需要高速、低能耗预测的场景。未来结合深度架构,可实现更复杂任务的实时处理。系统对硬件要求低,易于集成,推动光学信息处理在智能制造、环境监测等行业的应用。

局限与展望

受光学噪声和设备量化影响,预测精度有限。全光学化仍待实现,当前依赖数字控制。模型在高维复杂系统中表现有限,需扩展特征阶数和系统规模。未来需优化光学器件,提升鲁棒性和扩展性。

通俗解读 非专业人士也能看懂

想象你在一个工厂里,工厂里有许多机器(代表神经网络中的节点),它们通过传送带(光线)连接。每次工厂接收原料(输入信息),机器们会根据原料的不同,做出不同的反应(非线性处理)。这些反应会经过特殊的滤镜(散射介质),让信息变得更加丰富和复杂。最后,工厂的管理者(读出层)会根据机器的反应,决定下一步的行动。这个工厂不用自己建很多机器,而是用光线和散射介质来实现复杂的计算。这样既快又省能,还能处理非常复杂的问题,比如天气预测、金融分析等。

简单解释 像给14岁少年讲一样

想象你在玩一个超级复杂的拼图游戏,你有一堆碎片(数据),但拼图的规则很难理解。这个光学系统就像一个神奇的魔法盒子,把碎片放进去,然后用光线照亮它。光线经过这个盒子后,会变成一堆奇怪的光斑(散射的光),这些光斑其实藏着很多拼图的秘密。你不用自己拼图,只需要用特殊的镜头(读出层)观察这些光斑,然后告诉你拼图的样子。这个方法比传统的拼图更快、更聪明,还能拼出以前拼不出来的图。它可以帮我们预测天气、金融市场,甚至理解复杂的自然规律,就像魔法一样厉害!

原文摘要

Artificial neural networks with internal dynamics exhibit remarkable capability in processing information. Reservoir computing (RC) is a canonical example that features rich computing expressivity and compatibility with physical implementations for enhanced efficiency. Recently, a new RC paradigm known as next generation reservoir computing (NGRC) further improves expressivity but compromises its physical openness, posing challenges for realizations in physical systems. Here we demonstrate optical NGRC with computations performed by light scattering through disordered media. In contrast to conventional optical RC implementations, we drive our optical reservoir directly with time-delayed inputs. Much like digital NGRC that relies on polynomial features of delayed inputs, our optical reservoir also implicitly generates these polynomial features for desired functionalities. By leveraging the domain knowledge of the reservoir inputs, we show that the optical NGRC not only predicts the short-term dynamics of the low-dimensional Lorenz63 and large-scale Kuramoto-Sivashinsky chaotic time series, but also replicates their long-term ergodic properties. Optical NGRC shows superiority in shorter training length, increased interpretability and fewer hyperparameters compared to conventional optical RC based on scattering media, while achieving better forecasting performance. Our optical NGRC framework may inspire the realization of NGRC in other physical RC systems, new applications beyond time-series processing, and the development of deep and parallel architectures broadly.

physics.optics cs.ET nlin.CD