ML-Master：上海交大开发的一款面向机器学习（Machine Learning）的AI专家智能体系统

ML-Master是什么

ML-Master 是由上海交通大学人工智能学院Agents团队开发的一款面向机器学习（Machine Learning）的AI专家智能体系统，旨在通过创新的"探索-推理深度融合"范式，实现AI系统自主完成机器学习任务的能力。该项目在OpenAI发布的权威基准测试MLE-Bench中以29.3%的平均奖牌率位居榜首，显著超越微软R&D-Agent（22.4%）和OpenAI展示的AIDE系统（16.9%），标志着AI自主优化AI（AI4AI）领域的重要技术突破。

ML-Master的核心设计理念源自对人类专家AI开发流程的模拟，通过将探索与推理两大认知能力深度融合，解决了传统AI4AI方法中探索效率低下、推理能力受限以及模块割裂的核心挑战。系统能够像人类专家一样在解决复杂机器学习问题时同时进行广泛探索和深度思考，实现了从代码编写、模型调参到结果提交的完整流程自主化。

功能特色

ML-Master作为当前领先的AI自主完成机器学习任务方案，具备以下显著功能特色：

1. 类人专家级机器学习能力 ML-Master在OpenAI MLE-bench测试中展现出与人类AI工程师相当甚至更优的机器学习工程能力。该系统能够独立处理来自Kaggle的75个真实机器学习任务，涵盖从数据准备、特征工程到模型训练与调优的全流程。在测试中，ML-Master达到了Kaggle比赛"Grandmaster"（特级大师）级别，其获取奖牌数位居20余万Kaggle参赛者中的259位。更值得注意的是，系统在93.3%的任务中提交了有效解决方案，并在44.9%的任务中超越了半数人类参赛者的表现。

2. 探索与推理的有机协同 ML-Master突破了传统AI4AI方法中探索与推理割裂的局限，通过创新的协同机制实现了两大认知能力的深度融合。系统平衡了广泛探索与深度推理的关系：探索模块通过多路径并行实验获取新洞察，而推理模块则基于历史经验进行有根据的分析决策，避免了传统方法中"拍脑袋"决策或低效试错的问题。这种协同使得ML-Master在中等难度任务上的奖牌率提升至20.2%，相比先前方法的9.0%实现了2.2倍的提升。

3. 卓越的计算效率 在保持高性能的同时，ML-Master展现出显著的计算效率优势。系统仅需12小时即可完成MLE-bench全套测试，计算时间仅为基线方法的一半（24小时）。这一效率提升源于系统创新的资源分配策略，能够动态评估不同解决方案分支的潜力，将计算资源集中投入到最有希望的方向，避免了无效探索带来的资源浪费。

4. 自适应学习与持续优化 ML-Master构建了闭环学习系统，能够持续从执行反馈中学习并优化自身策略。系统形成"探索→推理→优化→再探索"的良性循环，实现持续的自我提升。自适应记忆机制确保系统在每次决策时都能基于最相关的历史经验，既保留宝贵知识又避免信息过载。这种动态进化能力使得ML-Master在处理复杂、多变的机器学习任务时表现出极强的适应性和稳定性。

5. 全面超越现有方案 在MLE-bench的所有评价维度上，ML-Master均表现卓越，全面领先于OpenHands、AIDE、R&D-Agent等现有方法。除平均奖牌率（29.3%）的显著优势外，系统在任务覆盖率、解决方案质量、计算效率等各方面都设立了新的技术标杆。这一全面优势验证了"探索-推理深度融合"范式的有效性和先进性。

技术细节

ML-Master的技术架构深度整合了蒙特卡洛树搜索、大语言模型推理和自适应记忆机制等先进技术，形成了独特的"探索-推理深度融合"范式。以下将详细解析系统的核心技术细节：

1. 双模块协同架构

ML-Master的核心架构由两大协同模块组成：平衡多轨迹探索(Balanced Multi-trajectory Exploration)和可控推理(Steerable Reasoning)，二者通过**自适应记忆机制(Adaptive Memory)**实现深度融合。

平衡多轨迹探索模块采用蒙特卡洛树搜索(MCTS)启发的方法，将AI研发过程建模为决策树结构，每个节点代表一个AI方案的状态。该模块实现了三大创新机制：

• 并行探索策略：突破传统单一路径的限制，同时探索多个解决方案分支，大幅提升探索效率与方案多样性

• 动态优先级调整：基于潜在价值实时评估各分支的潜力，智能分配计算资源，优先开发最有希望的方向

• 多轨迹平衡：保持探索的广度与深度平衡，避免陷入局部最优或过度探索无效区域

可控推理模块则赋予系统类似人类专家的深度分析能力，包含三大关键技术：

• 自适应记忆机制：精准提取历史探索中的关键洞察，过滤冗余信息，防止推理过程中的信息过载

• 情境化决策：将决策建立在具体执行反馈和成功案例基础上，确保每个选择都有据可依

• 闭环学习：持续从执行结果中学习，形成"探索-推理-优化"的良性循环

2. 自适应记忆机制

自适应记忆机制是ML-Master实现探索与推理深度融合的核心技术突破，包含三大功能组件：

智能记忆构建 探索模块自动收集执行结果、代码片段和性能指标等关键数据，同时选择性整合来自父节点和并行兄弟节点的信息。这一过程采用先进的过滤算法，保留高价值信息而剔除冗余数据，构建精炼而有效的记忆库。

嵌入推理决策 记忆信息被直接嵌入到推理大语言模型的"think"部分，使每次推理都能基于具体的历史执行反馈和多样化探索经验。这种嵌入不是简单的信息拼接，而是通过注意力机制动态选择最相关的记忆内容，确保决策的精准性。

协同进化机制 推理结果会指导后续探索方向，而探索经验又持续丰富推理过程，形成双向促进的协同进化。这种机制模拟了人类专家"经验指导实践，实践丰富经验"的认知循环，实现了系统能力的持续提升。

3. MCTS启发的探索优化

ML-Master对传统蒙特卡洛树搜索进行了多项创新改进，以适应AI研发任务的特殊需求：

增强的节点评估 结合即时奖励和长期潜力设计复合评估函数，不仅考虑当前解决方案的质量，还预测其未来发展空间。这种评估避免了短视决策，引导系统向真正有潜力的方向探索。

并行化扩展 突破传统MCTS的串行限制，实现真正的多路径并行探索。各探索线程间通过共享记忆机制交换关键信息，既保持独立性又实现经验共享。

资源动态调度 基于实时评估结果动态调整各探索线程的计算资源分配。高潜力方向获得更多资源加速开发，而表现不佳的路径则被及时终止，极大提高了整体探索效率。

4. 可控推理技术

ML-Master的推理模块采用多项创新技术确保决策的可靠性和有效性：

记忆引导的推理 每次推理过程都受到自适应记忆的引导和约束，避免了大语言模型常见的"幻觉"问题。系统会主动检索相关历史经验作为推理基础，确保输出与实际情况相符。

多视角分析 对同一问题从多个角度进行分析评估，综合技术可行性、计算成本、预期效果等多维度考量。这种综合分析避免了单一视角的局限，产生更全面可靠的解决方案。

反馈敏感的迭代 推理结果会随着执行反馈不断迭代优化。当实际效果与预期不符时，系统能够快速调整策略，展现出强大的适应能力和学习能力。

应用场景

ML-Master作为一款先进的AI专家智能体系统，在机器学习工程和AI自主开发领域具有广泛的应用前景。以下是该系统的主要应用场景：

1. 自动化机器学习（AutoML）

ML-Master能够完全自主地完成端到端的机器学习任务，包括数据预处理、特征工程、模型选择与超参数调优等全流程。系统在OpenAI MLE-bench测试中展现出的能力表明，它可以处理来自Kaggle的真实机器学习任务，其性能已达到Kaggle Grandmaster级别。这使得ML-Master成为AutoML领域的强大工具，能够显著降低机器学习应用的门槛，让非专家用户也能获得高质量的模型解决方案。

在实际应用中，ML-Master可以部署为企业内部的机器学习自动化平台，帮助数据团队快速生成基线模型和解决方案；也可作为教育工具，为学生和初学者提供专业级的机器学习指导；更可作为研究人员的得力助手，加速实验迭代和算法探索过程。

2. AI辅助研发（AI-aided R&D）

ML-Master的核心技术为AI辅助研发提供了新范式。系统的探索-推理协同机制能够帮助人类工程师更高效地进行算法设计和优化，充当"AI协作者"的角色。在实际研发中，ML-Master可以：

• 快速探索多种算法变体，评估各方案的潜在性能

• 基于历史经验提出有根据的改进建议，避免无效尝试

• 持续学习研发过程中的经验教训，形成机构知识库

这种AI辅助研发模式特别适合需要频繁迭代和实验的领域，如深度学习架构搜索、强化学习算法优化、新型神经网络设计等。ML-Master能够将人类专家的创造力与AI的系统性探索能力相结合，大幅提升研发效率和质量。

3. 复杂问题求解

ML-Master的平衡多轨迹探索能力使其特别适合处理复杂、多解的机器学习问题。系统能够并行探索多种解决方案路径，动态评估各方向潜力，最终找到最优或近似最优的解。这类能力在以下场景中尤为宝贵：

• 多目标优化问题，需要平衡多个竞争性指标

• 非凸优化问题，存在多个局部最优解

• 开放性问题，解决方案空间大且结构不明确

例如，在计算机视觉领域，ML-Master可以同时探索多种数据增强策略、网络架构和损失函数的组合，找到最适合特定任务的技术栈。在自然语言处理中，系统可以并行试验不同的预训练策略、微调方法和提示工程技巧，快速定位最有效的解决方案。

4. 教育与培训

ML-Master可以作为机器学习教育和培训的智能辅助工具。系统不仅能够展示最终解决方案，还能通过自适应记忆机制解释决策过程，帮助学习者理解专业AI工程师的思考方式。具体教育应用包括：

• 提供分步骤的机器学习任务指导

• 展示多种替代方案及其优缺点比较

• 根据学习者水平调整问题难度和指导深度

对于机器学习初学者，ML-Master可以充当"永不疲倦的导师"，提供专业级的实时指导；对于有经验的研究者，系统则可以作为"思考伙伴"，激发新思路和解决方案。

5. 研究基准与评估

ML-Master项目本身为AI4AI研究提供了重要基准和参考框架。系统的开源实现、MLE-bench测试集以及详细的实验结果，为后续研究设立了清晰的技术标杆。研究人员可以利用该项目：

• 作为新算法的对比基线

• 分析探索-推理协同机制的有效性

• 研究AI自主学习的限制与潜力

此外，ML-Master的模块化设计允许研究者替换或改进特定组件（如探索策略、记忆机制等），便于开展针对性研究。这种开放性将加速AI4AI领域的技术进步和知识积累。

相关链接

• 项目主页： https://sjtu-sai-agents.github.io/ML-Master

• GitHub地址： https://github.com/sjtu-sai-agents/ML-Master

• 论文地址： https://arxiv.org/pdf/2506.16499

总结

ML-Master是上海交通大学人工智能学院Agents团队开发的突破性AI专家智能体系统，通过创新的"探索-推理深度融合"范式，在OpenAI MLE-bench基准测试中以29.3%的平均奖牌率创下新纪录，超越了微软和OpenAI的竞争方案。该系统模拟人类专家的认知策略，整合蒙特卡洛树搜索的并行探索能力与大语言模型的深度推理能力，通过自适应记忆机制实现两大模块的有机协同，有效解决了传统AI4AI方法探索效率低下、推理能力受限以及模块割裂的核心挑战。ML-Master展现出类人专家级的机器学习工程能力，能够自主完成从数据准备到模型部署的全流程，在Kaggle竞赛中达到Grandmaster水平，同时计算效率较基线提升2倍。