跳到内容
Coding with AI · Lecture 09
Esc
↑↓导航↵打开⌘J预览
本页内容

边界:跑代码先要一个笼子;测试只证明它测到的

跑来历不明的代码,先要一个隔离的环境;测试是比“看着像”强得多的证据,但只到它测到的情况为止。

在课堂中打开

完整推理

要跑来历不明的代码,先得有个笼子。他们用了一种隔离更严的容器,再用防火墙把网络掐断:生成的程序经常是错的,网上的代码也不知道是谁写的。从这一天起,给模型写的代码准备一个能安全运行的地方,就成了搭这类系统的第一步。

还有一条边界,第七讲已经撞上过:三个旧测试全过的候选,换一个带引号和逗号的输入,就全挂了。Dijkstra 五十多年前就说过:测试能证明有错,不能证明没错。所以“测试跑过了”是比“看着像”强得多的证据,但它有范围,说的时候要带上范围。这句话先记着,收尾的时候,我们会在 Lean 那里再碰到它。

论文 §2.3:用 gVisor 容器运行时隔离执行,用基于 eBPF 的防火墙规则阻止网络访问;理由是生成的程序正确性无从保证,可能有害。Dijkstra 的原话:“Program testing can be used to show the presence of bugs, but never to show their absence!”,见 Notes on Structured Programming(EWD249,1969–1970;收入 Dahl、Dijkstra、Hoare 编《Structured Programming》,1972)。第七讲讲过回归测试与覆盖:测试是对规格的抽样。

常见误区

“沙箱是防模型使坏”:首先是防错误代码和来路不明的代码伤到机器。“测试全过=正确”:只说明测到的情况正确。

动手

LAB-A §1:给 BLEU 高、测试也过的那几段,补一条边界情况的测试,看还过不过。

出处

  • 出处:Chen et al. 2021 §2.3;Dijkstra,EWD249(原文未开;引文与出处有多处二手来源一致,含 Paulson 1995 年指出见 1972 年书第 6 页)。

备课稿(上屏与口述)

这一页为什么在这里

上屏

  • 第 1 步:笼子示意:生成的代码放进隔离的容器里跑,外面一道防火墙,网络切断。一行:从这一天起,“给模型的代码一个能安全运行的地方”成了第一步。
  • 第 2 步:回扣第七讲的小卡:三个旧测试都过的候选,换一个带引号和逗号的输入,全挂。一行引语:测试能证明有错,不能证明没错。——Dijkstra,1969 年前后。

讲

第 1 步 · 教师可说的话

第 1 步

要跑来历不明的代码,先得有个笼子。他们用了一种隔离更严的容器,再用防火墙把网络掐断:生成的程序经常是错的,网上的代码也不知道是谁写的。从这一天起,给模型写的代码准备一个能安全运行的地方,就成了搭这类系统的第一步。

第 2 步 · 教师可说的话

第 2 步

还有一条边界,第七讲已经撞上过:三个旧测试全过的候选,换一个带引号和逗号的输入,就全挂了。Dijkstra 五十多年前就说过:测试能证明有错,不能证明没错。所以“测试跑过了”是比“看着像”强得多的证据,但它有范围,说的时候要带上范围。这句话先记着,收尾的时候,我们会在 Lean 那里再碰到它。

本页衔接

回扣第七讲(CSV 反例);留给 Lean 核得了每一步推理,核不了证的是不是那道题(Lean 能证明“对所有情况成立”,但只对写下的陈述)。线索丙。

教学构造

  • 教学构造:笼子示意图。

  • 教学构造:分镜标注为“重|划边界|动手 LAB-A §1”。