AlphaEvolve是什么
AlphaEvolve是谷歌DeepMind推出的通用科学Agent，基于结合大型语言模型（LLMs）的创造力和自动评估器来设计和优化高级算法。用Gemini Flash和Gemini Pro两种模型，基于进化框架不断改进最有潜力的算法。AlphaEvolve在数据中心调度、硬件设计、AI训练和复杂数学问题解决等领域取得显著成果，优化矩阵乘法算法，提升数据中心效率，在多个开放数学问题上取得突破。AlphaEvolve展示了从特定领域到广泛现实挑战的算法开发能力。
AlphaEvolve的主要功能
- 发现和优化算法：在数学和计算领域，发现新的算法、优化现有算法。
- 提升计算效率：提高数据中心的调度效率、硬件设计的性能及AI训练的速度。
- 解决复杂数学问题：提出解决复杂数学问题的新方法，例如在矩阵乘法和几何问题上的突破。
- 跨领域应用：支持应用在多个领域，包括材料科学、药物发现和可持续性等。
AlphaEvolve的技术原理
- 进化计算框架：基于进化算法来逐步改进代码。用户定义一个初始程序，包括需要进化的代码块和评估函数。LLM 生成代码的修改（diffs），修改被用在当前程序，生成新的候选程序。每个新生成的程序基于用户提供的评估函数进行评分，评估函数返回一个或多个标量指标。根据评估结果，选择表现较好的程序进入下一代，保留一些多样性探索更广泛的搜索空间。
- LLM 的角色：LLM 在 AlphaEvolve 中扮演核心角色，负责生成代码的修改和提出新的解决方案。LLM 的能力包括：LLM 根据当前程序和历史信息生成代码的修改建议。修改是小的调整，或是完全重写的代码块。LLM 根据评估结果调整生成策略，在后续迭代中提出更优的解决方案。LLM 处理丰富的上下文信息，包括问题描述、相关文献、代码片段等，有助于生成更符合问题需求的代码。
- 评估机制：AlphaEvolve 的评估机制是自动化的，用户需要提供评估函数，函数对生成的解决方案进行量化评估。评估函数的输出通常是一个或多个标量指标。
- 进化数据库：进化数据库用于在存储和管理进化过程中生成的程序及评估结果。保存所有生成的程序及其评估结果，为后续迭代提供参考。基于算法确保进化过程中保持足够的多样性，避免陷入局部最优解。快速检索和选择表现较好的程序，提高进化效率。
- 分布式计算：多个计算任务并行运行，每个任务在需要时等待其他任务的结果。基于合理分配计算资源，最大化评估的样本数量，提高进化速度。支持在大规模计算集群上运行，适应不同规模的问题。
AlphaEvolve的项目地址
- 项目官网：https://deepmind.google/discover/blog/alphaevolve
- arXiv技术论文：https://storage.googleapis.com/deepmind-media/DeepMind.com/Blog/alphaevolve
AlphaEvolve的应用场景
- 数据中心调度：发现高效启发式方法，优化Borg调度，持续恢复Google全球计算资源的0.7%，提升任务完成效率。
- 硬件设计：提出Verilog重写，移除矩阵乘法电路的多余位，集成到Tensor Processing Unit（TPU），促进AI与硬件工程师协作。
- AI训练和推理：优化矩阵乘法操作，提升Gemini架构训练速度，减少训练时间，提高生产力。
- 数学问题解决：设计新算法，如改进矩阵乘法算法，解决开放数学问题，如提升“亲吻数”问题的下界。
- 跨领域应用：用在材料科学、药物发现、可持续性等领域，推动技术进步。