标题CORAL: An LLM-Native Harness for Production Recommender Systems来源arXiv, 2609.02730v1️文章简介研究问题传统推荐系统的参数调整依赖工程师手动实验反应慢且受限于人力如何让它像自动驾驶一样实时自我优化主要贡献论文提出了CORAL框架利用大语言模型构建闭环代理自动观察数据、调整推荐系统配置并从结果中学习无需重新训练模型。重点思路构建闭环代理架构CORAL将通用大语言模型置于一个包含记忆、工具和固定节奏的闭环中。每个周期代理观察系统运行信号结合过去的决策记忆进行推理提出配置更改建议。引入约束优化工具为确保建议可行系统配备数值优化器作为工具。LLM负责定性分析和策略提出优化器负责将建议投影到满足预算限制的可行范围内保证每次变更都符合运营成本约束。建立持久化记忆机制系统维护观察存储、评估存储和决策存储。代理不仅看当前数据还回顾过去几个周期的决策及其归因效果从而在上下文中不断修正策略适应非平稳的环境变化。定义部分可观测优化问题将推荐系统调优建模为部分可观测、非平稳的约束优化问题。代理的目标不是寻找单一最优解而是通过最小化累积差距使配置始终跟随动态变化的最佳操作点。分析总结提升参与度且零额外成本在视频推荐场景中CORAL通过重新分配检索预算在不增加服务成本的情况下使所有用户的观看会话增加了0.16%总观看时长增加0.15%。改善低信号用户体验针对新用户和行为数据稀疏的低信号用户代理能自动调整策略将预算倾斜至更依赖当前上下文而非历史数据的检索源使这类用户的会话量提升0.23%。显著节省计算资源在服务容量分配场景中代理通过降低低收益用户段的计算强度在保持参与度不变的前提下大幅节省了年度计算支出并能在后续迭代中进一步扩大节省范围。决策能力随迭代进化实验显示代理的决策并非一开始就完美但能通过A/B测试反馈自我修正。从零样本提议到经过几轮循环后的部署配置效果逐步提升证明了其在线学习能力。个人观点论文没有让LLM直接去生成推荐内容或训练模型而是让LLM扮演“系统管理员”的角色“人在回路”逐渐转向“自动护栏”的模式。