NNGPT 论文总结与核心内容翻译一、主要内容总结NNGPT 是一个开源的 AutoML 框架，核心目标是将大型语言模型（LLM）转化为可自我改进的神经网络开发引擎，主要面向计算机视觉任务。其核心逻辑是构建“生成-评估-自我改进”的闭环系统，通过统一的工作流整合五大基于 LLM 的协同管道，实现从单一提示到完整可执行训练流程的端到端自动化。核心组件与工作流程基础依托：基于 LEMUR 数据集，该数据集包含可执行的 PyTorch 神经网络程序、标准化预处理流程和可复现指标，为生成任务提供真实可运行的代码基础而非抽象模板。五大核心管道：零样本架构合成：通过少量参考示例生成完整的、作用域封闭的 PyTorch 架构类及配置文件，结合哈希去重避免重复训练。超参数优化（HPO）：将超参数调优视为条件文本生成任务，通过 LoRA 微调的 LLM 实现单轮生成，性能接近传统搜索式方法（如 Optuna）但无需大量迭代。代码感知的精度/早停预测：融合元数据、可执行代码片段和早期训练指标，预测模型最终精度和最优停止 epoch，支持资源高效调度。检索增强的 PyTorch 模块合成（NN-RAG）：检索可复用的 PyTorch 模块并自动处理依赖关系，实现 73% 的可执行率。强化学习（RL）闭环：以 LLM 为策略网络，基于执行效果和性能指标优化 LoRA 适配器