跳到内容
Coding with AI · Lecture 09
Esc
↑↓导航↵打开⌘J预览
本页内容

FunSearch:第 8 维找到 512 个点,交出人看得懂的程序

FunSearch(2023-12)用“模型提程序+评估器打分+进化”,在第 8 维找到 512 个点的帽集(此前 496),交出的是人读得懂的程序。

在课堂中打开

完整推理

2023 年十二月,DeepMind 的 FunSearch 就走了第二条路。模型负责提程序,评估器负责运行、检查、打分,编出来的东西过不了评估器这一关;高分的程序留下当范例,模型接着改。在第 8 维,它找到了 512 个点的帽集,比此前已知的 496 多。和“测试”那一站比一比:那时是从一百个候选里挑一个交卷;这里挑出来的不交卷,拿去当下一代的范例,挑变成了搜。生成越便宜,检验越值钱;到这一站,检验直接决定了往哪里搜。

还有一点特别值得说:它交出来的不是一大堆点,而是一段很短的程序。数学家能读这段程序,从里面看出构造的规律。输出是能执行的程序,“解释器”那一站就见过它的好处:程序能跑,能查,也能读。

Nature 论文:用预训练的大模型(基于 PaLM 2 的代码模型)提出程序,自动评估器打分,评估器挡住了模型的编造;输出是紧凑、可解释的程序。第 8 维帽集 512(此前已知最大 496;这两个数的来源是 X-evolve arXiv 2508.07932 的对照表与 Nieuw Archief voor Wiskunde 2024 年的综述,Nature 原页未直接核对)。

常见误区

“512 就是第 8 维的最优答案”:FunSearch 找到的是一个更大的构造(下界提高了),不是证明了最优。

动手

LAB-C §1。

出处

  • 出处:Romera-Paredes et al. 2023;X-evolve(arXiv 2508.07932);Nieuw Archief voor Wiskunde 2024 综述。

备课稿(上屏与口述)

这一页为什么在这里

上屏

  • 第 1 步:循环示意:模型提出程序 → 评估器运行、检查、打分(编造的过不了这一关)→ 程序库留下高分的 → 拿高分的当范例再提。一行数字:第 8 维帽集:此前 496 → 512。
  • 第 2 步:一小段示意代码(几行的优先级函数,示意);一行:交出的不是一个点集,是一段人读得懂的程序,人能从程序里看出规律。

讲

第 1 步 · 教师可说的话

第 1 步

2023 年十二月,DeepMind 的 FunSearch 就走了第二条路。模型负责提程序,评估器负责运行、检查、打分,编出来的东西过不了评估器这一关;高分的程序留下当范例,模型接着改。在第 8 维,它找到了 512 个点的帽集,比此前已知的 496 多。和“测试”那一站比一比:那时是从一百个候选里挑一个交卷;这里挑出来的不交卷,拿去当下一代的范例,挑变成了搜。生成越便宜,检验越值钱;到这一站,检验直接决定了往哪里搜。

第 2 步 · 教师可说的话

第 2 步

还有一点特别值得说:它交出来的不是一大堆点,而是一段很短的程序。数学家能读这段程序,从里面看出构造的规律。输出是能执行的程序,“解释器”那一站就见过它的好处:程序能跑,能查,也能读。

本页衔接

回扣“解释器”(输出是程序)。线索甲:评估器的分;线索乙:大批程序靠评估器筛、进化。

教学构造

  • 教学构造:循环图与示意代码。

  • 教学构造:分镜标注为“重|揭示|揭示在 第 1 步|动手 LAB-C §1”。