GenAutoML: An Agentic Framework for Dynamic Architecture Generation and Optimization in Time-Series Analysis

📄 arXiv: 2606.05860 📥 PDF

作者: Oleeviya Babu Poikarayil, Cédric Schockaert, Abdulrahman Nahhas, Christian Daase, Mursal Dawodi, Jawid Ahmad Baktash

分类: cs.LG

发布日期: 2026-06-12

💡 一句话要点

提出GenAutoML以解决时间序列分析中的动态架构生成问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 自动化机器学习 时间序列分析 神经网络架构 动态生成 边缘人工智能 鲁棒性 大型语言模型

📋 核心要点

  1. 现有的AutoML系统依赖静态搜索空间，难以适应多样化的数据特征，导致架构设计效率低下。
  2. GenAutoML框架利用大型语言模型生成神经网络架构，并通过沙箱反思循环进行自主代码优化。
  3. 实验结果显示，生成的WaveInterferenceNet模型在保持竞争性预测性能的同时，推理延迟低于0.01毫秒，展现出优越的计算效率。

📝 摘要（中文）

设计神经网络架构用于时间序列预测和异常检测仍然是一项资源密集型任务，通常需要大量领域专业知识。传统的自动化机器学习（AutoML）系统通常依赖于静态的预定义搜索空间，限制了其适应多样数据特征的能力。我们提出了GenAutoML，一个利用大型语言模型（LLMs）作为神经架构师的代理框架，以桥接自然语言需求和可执行的PyTorch实现。该框架包含一个沙箱反思循环用于自主代码优化，以及一个签名感知运行时以确保架构一致性和执行安全。为提高在非平稳条件下的鲁棒性，我们进一步引入了动态可逆实例归一化（Dyn-RevIN）包装器。在ETTh1、ETTm1和Weather基准上的实验表明，GenAutoML能够动态生成针对数据集特征的任务特定神经架构。

🔬 方法详解

问题定义：本论文旨在解决时间序列分析中神经网络架构设计的高资源消耗和对领域知识的依赖。现有的AutoML方法通常使用静态的搜索空间，无法灵活应对不同数据集的特征变化。

核心思路：论文提出的GenAutoML框架通过引入大型语言模型（LLMs）作为神经架构师，能够根据自然语言需求自动生成可执行的PyTorch代码，从而实现动态架构生成与优化。

技术框架：GenAutoML框架包括多个模块：首先是利用LLMs生成架构代码的模块；其次是沙箱反思循环，用于自主优化生成的代码；最后是签名感知运行时，确保生成架构的一致性和执行安全。

关键创新：最重要的技术创新在于将大型语言模型与自动化架构生成结合，形成了一种新的动态生成和优化架构的方式，显著提高了模型适应性和效率。

关键设计：在设计中，采用了动态可逆实例归一化（Dyn-RevIN）作为包装器，以增强模型在非平稳条件下的鲁棒性。同时，WaveInterferenceNet模型在推理延迟和预测性能之间取得了良好的平衡。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

在ETTh1、ETTm1和Weather基准测试中，GenAutoML生成的WaveInterferenceNet模型在推理延迟上低于0.01毫秒，同时保持了竞争性的预测性能，展示了其在计算效率和模型适应性方面的显著优势。

🎯 应用场景

GenAutoML框架具有广泛的应用潜力，尤其适用于资源受限和对延迟敏感的边缘人工智能部署场景。其动态生成的轻量级神经网络能够有效应对各种时间序列分析任务，如金融市场预测、环境监测和工业设备故障检测等，具有显著的实际价值和未来影响。

📄 摘要（原文）

Designing neural architectures for time-series forecasting and anomaly detection remains a resource-intensive task that often requires substantial domain expertise. Traditional Automated Machine Learning (AutoML) systems typically rely on static, predefined search spaces, limiting their ability to adapt to diverse data characteristics. We present GenAutoML, an agentic framework that leverages Large Language Models (LLMs) as neural architects to bridge natural-language requirements and executable PyTorch implementations. The framework incorporates a Sandboxed Reflection Loop for autonomous code refinement and a Signature-Aware Runtime that enforces architectural consistency and execution safety. To improve robustness under non-stationary conditions, we further introduce a Dynamic Reversible Instance Normalization (Dyn-RevIN) wrapper. Experiments on the ETTh1, ETTm1, and Weather benchmarks demonstrate that GenAutoML can dynamically generate task-specific neural architectures tailored to dataset characteristics. Among the generated models, WaveInterferenceNet achieves inference latency below 0.01 ms per sample while maintaining competitive predictive performance. By emphasizing computational efficiency, architectural adaptability, and stable optimization behavior, GenAutoML enables the creation of ultra-lightweight neural networks suitable for resource-constrained and latency-sensitive Edge AI deployments.