用于专用神经网络模型自动调优的多智能体 LLM 系统

许多机器学习方法采用两层流程：先由专家选择一类方法，再在该类方法中选择关键组件，而后者至关重要且通常依赖人工。本文研究这些组件的自动调优，并提出一种可迁移至不同性质模型的框架。该多智能体大语言模型（LLM）框架包含分析员、编码员和记录员三种角色，并配备实验日志和沙箱执行环境。与优化整个机器学习脚本或在离散空间中搜索架构的系统不同，该框架在开放但语义范围受限的空间中运行：智能体仅为指定组件生成代码，保持网络整体结构不变。该方法在两个方向上得到验证：对采用相关性学习的分类脉冲神经网络进行调优，以及使用物理信息神经网络（PINN）求解高阶微分方程。在五项任务中，包括 MNIST 和 Digits 上的脉冲神经网络分类任务，以及广义非线性 Schrödinger 方程（GNLSE）和 Kuramoto–Sivashinsky（KS）方程的边值问题，该智能体均优于基线：分类准确率分别提高了 13 个百分点（MNIST）和 6 个百分点（Digits）；相对于单孤子解析解的误差降至原来的约 1/2491；在选定的含高斯扰动的 GNLSE 实验中，不变量保持误差降至原来的约 1/325，在多次重复初始化实验中，平均误差降至原来的不足 1/100；对于含高斯扰动的 KS 问题，质量漂移降至原来的 1/14。因此，该框架无需改变其内部结构，即可针对不同性质的任务调优关键组件。