久章智能JZLOG
FRONTIER TECH · ESSAY

前沿科技随笔:当大模型遇见组合优化

大模型时代的组合优化走到了哪一步?这篇随笔梳理五条技术主线——神经组合优化、大模型自动建模、AI for Science、量子与 GPU 并行求解——同时诚实地标注每条线的能力边界。写给我们自己,也写给关心这一领域的朋友。

一、神经组合优化

2015 年 Pointer Network 开创了用深度学习直接求解组合优化问题的范式;此后注意力机制、图神经网络被广泛用于 TSP、VRP、背包等经典问题的近似求解。其核心思想是:与其手写规则,不如让模型从大量实例中学习「好的解长什么样」,推理时一次前向传播给出解,毫秒级响应。

但纯神经方法有个著名的软肋:泛化鸿沟——在 100 个城市的实例上训练的模型,遇到 150 个城市性能就显著退化;跨分布(需求模式变化)时更是如此。于是近年主流转向「神经启发式」(neural heuristics):用学习来增强传统搜索——学习构造初始解、学习选择分支变量、学习调整启发式算法的超参数。学习负责「经验」,搜索负责「可靠」,二者互补。

一个务实的判断:神经方法今天是求解器的加速器与配件,而不是替代品。把它用在传统方法最慢的地方(大规模邻域搜索的初始化、参数调优),收益最确定。

二、大模型作为「建模师」

大语言模型给运筹优化带来的最直接改变,不在求解而在建模。业务问题到数学模型之间的翻译——决定变量怎么设、目标函数写什么、约束怎么列——历来是最依赖专家经验、也最贵的环节。现在 LLM 可以从自然语言描述生成线性规划/混合整数规划的建模代码(Pyomo、Gurobi、OR-Tools),NL4Opt 等评测显示在标准题型上已相当可用。

更有意思的用法是「LLM 代理工作流」:让模型扮演建模师、求解器操作员和结果解释员三个角色,循环迭代——生成模型 → 求解 → 读报错与日志 → 修正模型。对工程师来说,这压缩的是从需求到首个可运行原型的周期;对非技术客户,它让「用一句话描述问题,拿回一个方案草案」成为可能。

边界同样清晰:LLM 会漏约束、会写出语义通顺但数学错误的模型,也会在数值问题上「自信地编」。因此当前可靠的形态是人机协同——模型起草,人审核约束与假设,求解器验证。

三、AI for Science:算法发现算法

第三条线更前沿:用 AI 去发现新的算法与结构,而非仅仅求解已知问题。DeepMind 的 AlphaDev 通过强化学习在排序等基础算法上发现了比教科书更优的实现;FunSearch 用大模型生成候选程序、以自动评估为奖励,发现了 cap set 问题的新上界;AlphaGeometry 以合成数据训练的系统在国际数学奥林匹克几何题上达到金牌水平。

对组合优化而言,这条线的启示在于搜索空间的再定义:当「解」的搜索被「求解策略的搜索」取代,AI 不再只是解一道题,而是在学习一类题的最佳求解方式。目前这条线在理论问题上成果多于工业问题,但方向值得跟踪。

四、硬件前沿:量子退火与 GPU 并行

量子退火(D-Wave 路线)与 QAOA 等量子近似优化算法,天然契合二次无约束二值优化(QUBO)形式的问题——很多组合优化问题可以编码为 QUBO。客观地说,当前量子硬件的比特数、连接性与噪声水平距离实用仍有明显差距,多数对比研究显示其性价比尚不及经典启发式;但「把问题编码为 Ising/QUBO 模型」这套方法论本身已经反哺了经典算法。

更立竿见影的是 GPU 大规模并行:批量求解(同一问题族的数千实例并行)、大规模邻域搜索的内循环并行化、以及 GPU 加速的线性代数内核进入分支定界,都已进入主流求解器的路线图。对工业界这意味着:过去「一个晚上跑一个实例」的调参实验,现在可以「一个晚上跑一万个实例」——这会改变算法研究的节奏,也会改变「什么规模的问题值得优化」的经济账。

五、冷静看:边界在哪里

写前沿,更要写边界。几条冷静的笔记:

结语:工程视角的落地节奏

作为从业者,我们对前沿的态度是「积极跟踪、谨慎承诺、快速试验」。技术曲线会奖励早做准备的团队:把数据 pipeline 建好、把求解器接口标准化、把「学习组件可插拔」的架构留出来——这样无论哪条线先成熟,都能以最小代价接入。

组合优化是一门「老」学科,但正因为它足够老,新的方法论才有坚实的对照基准。热闹属于发布会,价值属于可复现的结果——这也是久章智能做每一件事的方式。

本文为久章智能技术团队的前沿观察随笔,仅代表撰写时点的认知;涉及第三方工作(AlphaDev、FunSearch、AlphaGeometry、NL4Opt 等)以公开发表信息为准。欢迎通过关于我们页面与我们交流。