---
title: "边界：跑代码先要一个笼子；测试只证明它测到的"
description: "跑来历不明的代码，先要一个隔离的环境；测试是比“看着像”强得多的证据，但只到它测到的情况为止。"
---

## 这一页为什么在这里

## 上屏

- 第 1 步：笼子示意：生成的代码放进隔离的容器里跑，外面一道防火墙，网络切断。一行：从这一天起，“给模型的代码一个能安全运行的地方”成了第一步。
- 第 2 步：回扣第七讲的小卡：三个旧测试都过的候选，换一个带引号和逗号的输入，全挂。一行引语：测试能证明有错，不能证明没错。——Dijkstra，1969 年前后。

## 讲

### 第 1 步 · 教师可说的话

第 1 步

要跑来历不明的代码，先得有个笼子。他们用了一种隔离更严的容器，再用防火墙把网络掐断：生成的程序经常是错的，网上的代码也不知道是谁写的。从这一天起，给模型写的代码准备一个能安全运行的地方，就成了搭这类系统的第一步。

### 第 2 步 · 教师可说的话

第 2 步

还有一条边界，第七讲已经撞上过：三个旧测试全过的候选，换一个带引号和逗号的输入，就全挂了。Dijkstra 五十多年前就说过：测试能证明有错，不能证明没错。所以“测试跑过了”是比“看着像”强得多的证据，但它有范围，说的时候要带上范围。这句话先记着，收尾的时候，我们会在 Lean 那里再碰到它。

### 本页衔接

回扣第七讲（CSV 反例）；留给 [Lean 核得了每一步推理，核不了证的是不是那道题](/what-lean-cannot-check)（Lean 能证明“对所有情况成立”，但只对写下的陈述）。线索丙。

### 连续教师稿原文

要跑来历不明的代码，先得有个笼子。他们用了一种隔离更严的容器，再用防火墙把网络掐断：生成的程序经常是错的，网上的代码也不知道是谁写的。从这一天起，给模型写的代码准备一个能安全运行的地方，就成了搭这类系统的第一步。

还有一条边界，第七讲已经撞上过：三个旧测试全过的候选，换一个带引号和逗号的输入，就全挂了。Dijkstra 五十多年前就说过：测试能证明有错，不能证明没错。所以“测试跑过了”是比“看着像”强得多的证据，但它有范围，说的时候要带上范围。这句话先记着，收尾的时候，我们会在 Lean 那里再碰到它。

## 完整推理

要跑来历不明的代码，先得有个笼子。他们用了一种隔离更严的容器，再用防火墙把网络掐断：生成的程序经常是错的，网上的代码也不知道是谁写的。从这一天起，给模型写的代码准备一个能安全运行的地方，就成了搭这类系统的第一步。

还有一条边界，第七讲已经撞上过：三个旧测试全过的候选，换一个带引号和逗号的输入，就全挂了。Dijkstra 五十多年前就说过：测试能证明有错，不能证明没错。所以“测试跑过了”是比“看着像”强得多的证据，但它有范围，说的时候要带上范围。这句话先记着，收尾的时候，我们会在 Lean 那里再碰到它。

论文 §2.3：用 gVisor 容器运行时隔离执行，用基于 eBPF 的防火墙规则阻止网络访问；理由是生成的程序正确性无从保证，可能有害。Dijkstra 的原话：“Program testing can be used to show the presence of bugs, but never to show their absence!”，见 Notes on Structured Programming（EWD249，1969–1970；收入 Dahl、Dijkstra、Hoare 编《Structured Programming》，1972）。第七讲讲过回归测试与覆盖：测试是对规格的抽样。

## 学生可能的回答与误区

“沙箱是防模型使坏”：首先是防错误代码和来路不明的代码伤到机器。“测试全过＝正确”：只说明测到的情况正确。

## 教学构造与出处

教学构造：笼子示意图。

教学构造：分镜标注为“重｜划边界｜动手 LAB-A §1”。

出处：Chen et al. 2021 §2.3；Dijkstra，EWD249（原文未开；引文与出处有多处二手来源一致，含 Paulson 1995 年指出见 1972 年书第 6 页）。

## 动手

[LAB-A](/labs/run-it-to-count) §1：给 BLEU 高、测试也过的那几段，补一条边界情况的测试，看还过不过。
