Lecture 4 Polynomial Hierarchy

讲义 PDF p1–46（页脚 1–45）；教材 §2.6–2.9（书 p78–87，PDF p91–100）、§2.10 定理 2.12（书 p87–91）；§5 时空权衡教材未涉及

第 3 讲中，$\mathbf{NP}$ 是”存在一个短证书”，$\mathbf{coNP}$ 是”所有短候选都通过检查”，各对应一个量词。可是很多自然问题需要交替使用两种量词。例如优化问题：找一个解不够，还要说明它最优，即”存在一个解，使所有其他解都不比它好”。本讲研究由量词交替逐层搭起来的多项式谱系（polynomial hierarchy）。它是递归论中 Kleene 算术谱系的多项式时间版本，由 Meyer 和 Stockmeyer 在 1972 年提出。Karp 1972 年就指出：若 $\mathbf{P}=\mathbf{NP}$，这个谱系就会完全塌陷。

部分	要回答的问题	核心结论
1. Meyer-Stockmeyer’s Polynomial Hierarchy	$\mathbf{NP}$ 之上还有什么？	用神谕逐层定义 ${\Sigma }_i^p,{\Pi }_i^p,{\Delta }_i^p$，并起来是 $\mathbf{PH}$
2. Stockmeyer-Wrathall Characterization	每一层的问题长什么样？	${\Sigma }_i^p$ = $i$ 块交替量词；${\Sigma }_i\mathrm{SAT}$ 是 ${\Sigma }_i^p$-完全的；$\mathbf{PH}\subseteq \mathbf{PSPACE}$
3. Chandra-Kozen-Stockmeyer Theorem	把”交替”当作计算资源会怎样？	交替机：$\mathbf{AL}=\mathbf{P}$，$\mathbf{AP}=\mathbf{PSPACE}$，$\mathbf{APSPACE}=\mathbf{EXP}$；$\mathbf{PH}$ = 常数次交替的多项式时间
4. Infinite Hierarchy Conjecture	谱系会塌陷吗？	任一层"$\Sigma =\Pi$"就整体塌陷；人们相信它不塌陷
5. Time-Space Trade-Off	能证明 $\mathrm{SAT}$ 的什么下界？	$\mathrm{SAT}\notin \mathbf{TISP}(n^{1.1},n^{0.1})$，方法是间接对角线

1. Meyer-Stockmeyer’s Polynomial Hierarchy

1.1 NP 之上的问题

先看一个看起来比 $\mathbf{NP}$ 更难的问题。给定一个析取范式 $\phi$，它是不是最简的，即有没有更短的等价析取范式？

$$\mathrm{MINIMAL}=\{\phi \mid \phi \text{ 是析取范式，且对每个满足 }|\psi |<|\phi |\text{ 的析取范式 }\psi \text{，存在赋值 }u\text{ 使 }\psi (u)\ne \phi (u)\}.$$

它的结构是"$\forall \psi \exists u$"。要说明 $\phi$ 最简，似乎没有什么短证据：总不能把所有更短的公式都列出来逐个反驳。

它的补问题”$\phi$ 不是最简的”结构是"$\exists \psi \forall u.\psi (u)=\phi (u)$"。一台 NDTM 可以先猜出更短的 $\psi$，再问一次 $\mathrm{SAT}$ 神谕”$\psi \nLeftrightarrow \phi$ 可满足吗”，把回答取反。所以 $\overline{\mathrm{MINIMAL}}\in {\mathbf{NP}}^{\mathrm{SAT}}$，而 $\mathrm{MINIMAL}\in {\mathbf{coNP}}^{\mathrm{SAT}}$。

这类问题早有人注意到。Shannon 在 1949 年谈电路设计时说过大意如下的话：合成电路已经非常困难，要证明找到的电路是实现某个函数的最经济电路就更难了，因为本质上不同的电路数量极其庞大。这正是”$\exists$ 一个电路 $\forall$ 输入都正确”加上”最小”的要求。

1.2 用神谕逐层定义

回顾第 3 讲 §5.1：以一个类 $\mathbf{C}$ 作神谕，

$${\mathbf{P}}^{\mathbf{C}}=\bigcup _{A\in \mathbf{C}}{\mathbf{P}}^A,{\mathbf{NP}}^{\mathbf{C}}=\bigcup _{A\in \mathbf{C}}{\mathbf{NP}}^A.$$

上一小节的问题在 ${\mathbf{NP}}^{\mathbf{NP}}$ 中。继续往上叠就得到一个谱系。

定义：多项式谱系（Meyer-Stockmeyer）

$${\Sigma }_0^p=\mathbf{P},{\Sigma }_{i+1}^p={\mathbf{NP}}^{{\Sigma }_i^p},{\Delta }_{i+1}^p={\mathbf{P}}^{{\Sigma }_i^p},{\Pi }_i^p=\mathbf{co}{\Sigma }_i^p.$$

$\mathbf{PH}={\bigcup }_{i\ge 0}{\Sigma }_i^p.$ 记 ${\mathbf{PH}}_i={\Sigma }_i^p\cup {\Pi }_i^p$，称为谱系的第 $i$ 层。

前几层是熟悉的类：

• 第 0 层：${\Sigma }_0^p={\Pi }_0^p={\Delta }_0^p=\mathbf{P}$。
• 第 1 层：${\Sigma }_1^p={\mathbf{NP}}^{\mathbf{P}}=\mathbf{NP}$，${\Pi }_1^p=\mathbf{coNP}$，${\Delta }_1^p={\mathbf{P}}^{\mathbf{P}}=\mathbf{P}$。
• 第 2 层：${\Sigma }_2^p={\mathbf{NP}}^{\mathbf{NP}}$，${\Pi }_2^p={\mathbf{coNP}}^{\mathbf{NP}}$，${\Delta }_2^p={\mathbf{P}}^{\mathbf{NP}}$。

按定义 ${\Pi }_{i+1}^p={\mathbf{coNP}}^{{\Sigma }_i^p}$。另外，神谕机可以把回答取反，所以以 ${\Sigma }_i^p$ 还是 ${\Pi }_i^p$ 作神谕没有区别：${\mathbf{NP}}^{{\Sigma }_i^p}={\mathbf{NP}}^{{\Pi }_i^p}$。

命题：各类之间的包含关系

${\Sigma }_i^p\subseteq {\Delta }_{i+1}^p\subseteq {\Sigma }_{i+1}^p,{\Pi }_i^p\subseteq {\Delta }_{i+1}^p\subseteq {\Pi }_{i+1}^p.$ 因此 ${\Sigma }_i^p\cup {\Pi }_i^p\subseteq {\Delta }_{i+1}^p\subseteq {\Sigma }_{i+1}^p\cap {\Pi }_{i+1}^p$，并且 $\mathbf{PH}={\bigcup }_i{\Pi }_i^p={\bigcup }_i{\Delta }_i^p$。

证明

• ${\Sigma }_i^p\subseteq {\Delta }_{i+1}^p$：以 $L\in {\Sigma }_i^p$ 为神谕，问一次”$x\in L$？“即可。
• ${\Delta }_{i+1}^p\subseteq {\Sigma }_{i+1}^p$：确定型神谕机是非确定型的特例。
• ${\Delta }_{i+1}^p$ 是确定型类，把输出取反即得补，所以它对补封闭。对第一行取补，得到第二行。$\square$

上图是谱系的样子：$\mathbf{P}$ 在底部，每一层有 $\Sigma$、$\Pi$ 两根柱子，交叉的线表示 ${\Sigma }_i^p$ 和 ${\Pi }_i^p$ 都包含在上一层的 ${\Sigma }_{i+1}^p$ 和 ${\Pi }_{i+1}^p$ 中。

1.3 第二层的自然问题

第二层已有不少自然问题，第三层以上知道得很少。

• $\mathrm{MIN}\text{-}\mathrm{DNF}$： $\mathrm{MIN}\text{-}\mathrm{DNF}=\{⟨\phi ,k⟩\mid \phi \text{ 是析取范式，且存在 }|\psi |\le k\text{ 的析取范式 }\psi \text{ 使 }\forall u.\psi (u)=\phi (u)\}.$ 这正是 Shannon 所说的问题。Umans（1998）证明了它是 ${\Sigma }_2^p$-完全的，证明较长（教材 §2.10 定理 2.12）。至于 $\mathrm{MINIMAL}$ 本身（以及它的补）的确切复杂性，目前还不知道。
• $\mathrm{TERMWISE}\mathrm{MIN}\text{-}\mathrm{DNF}$：给定析取范式 $\phi ={\bigvee }_{i\in [m]}{\phi }_i$ 和整数 $k$，是否存在大小不超过 $k$ 的等价析取范式 ${\phi }^{\prime }={\bigvee }_{i\in [m]}{\phi }_i^{\prime }$，使每个 ${\phi }_i^{\prime }$ 中的变量都出现在 ${\phi }_i$ 中？它也是 ${\Sigma }_2^p$-完全的（Umans）。
• $\mathrm{EXACT}\mathrm{IndSet}$：$\{⟨G,k⟩\mid G\text{ 的最大独立集恰好有 }k\text{ 个顶点}\}$。它属于 ${\Delta }_2^p={\mathbf{P}}^{\mathbf{NP}}$：问 $\mathbf{NP}$ 神谕两次，“有大小 $\ge k$ 的独立集吗”（要答”是”）和”有大小 $\ge k+1$ 的吗”（要答”否”）。

2. Stockmeyer-Wrathall Characterization

神谕定义便于归纳证明，但看不出每一层的问题”长什么样”。1976 年 Stockmeyer 用量词交替定义了谱系，Wrathall 证明了这与神谕定义等价。它推广了第 3 讲 §1.2 中 $\mathbf{NP}$ 的验证器刻画：每往上一层，就多一块交替的量词。

2.1 逻辑刻画

定理（Wrathall 1976）

设 $i\ge 1$。

• $L\in {\Sigma }_i^p$，当且仅当存在多项式时间图灵机 $M$ 和多项式 $q$，使对所有 $x$： $x\in L⟺\exists u_1\forall u_2\exists u_3\cdots Q_i{u}_i.M(x,u_1,\dots ,u_i)=1.$
• $L\in {\Pi }_i^p$，当且仅当存在这样的 $M$ 和 $q$，使对所有 $x$： $x\in L⟺\forall u_1\exists u_2\forall u_3\cdots Q_i{u}_i.M(x,u_1,\dots ,u_i)=1.$

其中每个 $u_j$ 取遍 $\{0,1{\}}^{q(|x|)}$，$Q_i$ 按交替规律是 $\exists$ 或 $\forall$。

${\Pi }_i^p$ 的刻画由 ${\Sigma }_i^p$ 的刻画取否定得到，只需证 ${\Sigma }_i^p$。对 $i$ 归纳，$i=1$ 就是第 3 讲 §1.2 的定理。设对 $i$ 成立，证 $i+1$。

证明（ $\Leftarrow$）

设 $x\in L⟺\exists u_1\forall u_2\cdots Q_{i+1}{u}_{i+1}.M(x,u_1,\dots ,u_{i+1})=1$。令 $L^{\prime }=\{⟨x,u_1⟩\mid \forall u_2\exists u_3\cdots Q_{i+1}{u}_{i+1}.M(x,u_1,\dots ,u_{i+1})=1\}.$ 由归纳假设（${\Pi }_i^p$ 的刻画），$L^{\prime }\in {\Pi }_i^p$，即 $\overline{L^{\prime }}\in {\Sigma }_i^p$。用 $\overline{L^{\prime }}$ 作神谕的 NDTM 在输入 $x$ 上猜 $u_1$，问”$⟨x,u_1⟩\in \overline{L^{\prime }}$？“，把回答取反后输出。所以 $L\in {\mathbf{NP}}^{{\Sigma }_i^p}={\Sigma }_{i+1}^p$。$\square$

证明（ $\Rightarrow$）

设 $L$ 被多项式时间 NDTM $N$ 接受，$N$ 使用神谕 $A\in {\Sigma }_i^p$。$N$ 的一次计算由三样东西决定：非确定选择 $c_1,\dots ,c_m$，提出的询问 $w_1,\dots ,w_k$，以及神谕的回答 $d_1,\dots ,d_k\in \{0,1\}$。于是 $x\in L$ 当且仅当 $\exists c\exists w\exists d.\left[N\text{ 按选择 }c\text{、在回答为 }d\text{ 时接受 }x\text{ 且询问恰为 }w\right]\wedge {\bigwedge }_{j\le k}[(d_j=1\Rightarrow w_j\in A)\wedge (d_j=0\Rightarrow w_j\notin A)].$

• 第一个方括号是多项式时间可检查的（固定选择和回答后，$N$ 就是一台确定型机器）。
• 由归纳假设，"$w_j\in A$"可以写成 $\exists \forall \cdots$（$i$ 块）的形式，"$w_j\notin A$"可以写成 $\forall \exists \cdots$（$i$ 块）的形式。

把所有量词提到最前面（各处的变量互不相同，$\bigwedge$ 两边的同类量词可以合并：$(\exists u.\alpha )\wedge (\exists v.\beta )\equiv \exists uv.(\alpha \wedge \beta )$，$\forall$ 同理）。"$w_j\in A$"开头的 $\exists$ 并入最外层的 $\exists cwd$，于是总共是 $\exists \forall \exists \cdots$ 共 $i+1$ 块。把每块变量补齐到同一多项式长度，就得到所需形式，所以 $L$ 满足 ${\Sigma }_{i+1}^p$ 的刻画。$\square$

证明思路（通俗版）

• 一层神谕 = 一块量词：NDTM 的猜测是 $\exists$；它问的神谕若在 ${\Sigma }_i^p$ 中，神谕的答案本身又是一串 $i$ 块的交替量词。
• $\Leftarrow$：要处理 $\exists u_1[\text{后面 }i\text{ 块}]$，就让 NDTM 猜 $u_1$，把”后面 $i$ 块”整个交给神谕。
• $\Rightarrow$：把 NDTM 和神谕的对话全部”猜”出来（选择、询问、回答），再要求每个回答都正确。“回答正确”恰好又是一个 ${\Sigma }_i^p$ 或 ${\Pi }_i^p$ 的命题，展开后量词块数只多一块。

把这个刻画读成”证明”的语言：${\Sigma }_2^p$ 的问题就是”存在 $u_1$，使对所有 $u_2$，……成立”。$\mathrm{MIN}\text{-}\mathrm{DNF}$（存在短公式，对所有赋值都等价）、“存在一种走法，使对手无论怎么应对都……”都是这种形式。

2.2 完全问题：${\Sigma }_i\mathrm{SAT}$

定义： ${\Sigma }_i\mathrm{SAT}$

${\Sigma }_i\mathrm{SAT}$ 是所有形如 $\exists u_1\forall u_2\cdots Q_i{u}_i.\phi (u_1,\dots ,u_i)$ 的为真的量化布尔公式组成的语言，其中 $\phi$ 是命题公式，每个 $u_j$ 是一串布尔变量。

它是 $\mathrm{TQBF}$（第 2 讲 §3.2）中量词块数不超过 $i$ 的部分。${\Sigma }_1\mathrm{SAT}$ 就是 $\mathrm{SAT}$。

定理（Meyer-Stockmeyer 1972）

${\Sigma }_i\mathrm{SAT}$ 是 ${\Sigma }_i^p$-完全的（相对 Karp 归约）。

证明

由 §2.1 的刻画（$M$ 就是对 $\phi$ 求值），${\Sigma }_i\mathrm{SAT}\in {\Sigma }_i^p$。

设 $L\in {\Sigma }_i^p$，$x\in L⟺\exists u_1\cdots Q_i{u}_i.M(x,u_1,\dots ,u_i)=1$。由 Cook-Levin 定理（第 3 讲 §2.3），可在多项式时间内写出命题公式 $T_x(u_1,\dots ,u_i,z)$，表示”$z$ 是 $M(x,\tilde{u})$ 的计算表”（$M$ 是确定型的，这样的 $z$ 恰有一个），以及表示”输出为 $1$“的公式 $\mathrm{Acc}(z)$。于是 $M(x,\tilde{u})=1⟺\exists z.(T_x\wedge \mathrm{Acc}(z))⟺\forall z.(T_x\Rightarrow \mathrm{Acc}(z)).$ 若 $Q_i=\exists$，用左边的形式，把 $\exists z$ 并入最后一块 $\exists u_i$；若 $Q_i=\forall$，用右边的形式，把 $\forall z$ 并入 $\forall u_i$。两种情况都得到一个 $i$ 块的量化布尔公式，它为真当且仅当 $x\in L$。$\square$

同理，${\Pi }_i\mathrm{SAT}$（以 $\forall$ 开头的 $i$ 块真 QBF）是 ${\Pi }_i^p$-完全的。

2.3 PH ⊆ PSPACE

定理（Stockmeyer，Wrathall 1976）

$\mathbf{PH}\subseteq \mathbf{PSPACE}.$

每个 ${\Sigma }_i\mathrm{SAT}$ 都是 $\mathrm{TQBF}$ 的特例，而 $\mathrm{TQBF}\in \mathbf{PSPACE}$（第 2 讲 §3.3），并且 $\mathbf{PSPACE}$ 对 Karp 归约封闭。所以每个 ${\Sigma }_i^p\subseteq \mathbf{PSPACE}$。

两者的区别在于量词块数：$\mathbf{PH}$ 的每一层只允许常数块交替，$\mathbf{PSPACE}$ 的完全问题 $\mathrm{TQBF}$ 允许多项式块交替。

3. Chandra-Kozen-Stockmeyer Theorem

前两部分用神谕和量词描述谱系。Chandra、Kozen、Stockmeyer（1981）提出了第三种视角：给机器本身装上"$\forall$"的能力，即交替图灵机，把”交替”当作一种计算资源。它不仅能刻画多项式谱系，还在时间类和空间类之间架起了一座桥。

3.1 交替图灵机

定义：交替图灵机（ATM）

交替图灵机是一台 NDTM，它的每个非停机状态都标上 $\exists$ 或 $\forall$。在输入 $x$ 上，把所有可能的计算展开成一棵计算树。$A(x)$ 的一棵接受树是计算树的子树，满足：

• 根是起始格局，所有叶子都是接受格局；
• 树中每个 $\exists$ 格局，恰有一个孩子在树中；
• 树中每个 $\forall$ 格局，两个孩子都在树中。

若 $A(x)$ 有接受树，称 $A$ 接受 $x$。

等价的说法是自底向上求值：接受格局的值为 $1$，拒绝格局为 $0$；$\exists$ 格局的值是孩子们的”或”，$\forall$ 格局的值是孩子们的”与”；$A$ 接受 $x$ 当且仅当根的值为 $1$。这和第 2 讲 §3.3 中 QBF 求值树的规则一模一样。

直观上，$\exists$ 状态是”我方选一步”，$\forall$ 状态是”对手任选一步”或”同时开启并行计算、全部都要成功”。只有 $\exists$ 状态的 ATM 就是 NDTM；只有 $\forall$ 状态的 ATM 接受 $\mathbf{coNP}$ 风格的语言。

定义：交替时间与空间

• 若对每个 $x$ 和所有选择，$A$ 都在 $T(|x|)$ 步内停机，称 $A$ 在 $T(n)$ 时间内运行。$L\in \mathbf{ATIME}(T(n))$ 当且仅当某个 $cT(n)$ 时间的 ATM 接受 $L$。
• $\mathbf{ASPACE}(S(n))$ 类似定义：所有路径上工作带都不超过 $cS(n)$ 格。

$$\mathbf{AL}=\mathbf{ASPACE}(\log n),\mathbf{AP}=\bigcup _c\mathbf{ATIME}(n^c),\mathbf{APSPACE}=\bigcup _c\mathbf{ASPACE}(n^c),$$ $$\mathbf{AEXP}=\bigcup _c\mathbf{ATIME}(2^{n^c}),\mathbf{AEXPSPACE}=\bigcup _c\mathbf{ASPACE}(2^{n^c}).$$

例： $\mathrm{TQBF}$ 在交替二次时间、线性空间内可解

输入 $\psi =Q_1{x}_1\cdots Q_n{x}_n.\phi$。ATM 按顺序处理量词：遇到 $\exists x_j$ 就进入 $\exists$ 状态选 $x_j$ 的值，遇到 $\forall x_j$ 就进入 $\forall$ 状态选 $x_j$ 的值。所有变量赋值后，确定地计算 $\phi$ 的值（单带机器上 $O(|\psi {|}^2)$ 时间），为真就接受。接受树恰好就是”$\exists$ 一方的必胜策略”。只需存当前赋值和求值的草稿，线性空间。所以 $\mathrm{TQBF}\in \mathbf{AP}$。

3.2 交替与确定型计算的关系

定理（Chandra-Kozen-Stockmeyer 1981）

设所涉及的时间、空间函数都可构造，$S(n)\ge \log n$。

1. $\mathbf{NSPACE}(S(n))\subseteq \mathbf{ATIME}(S(n{)}^2)$；
2. $\mathbf{ATIME}(T(n))\subseteq \mathbf{SPACE}(T(n))$；
3. $\mathbf{ASPACE}(S(n))\subseteq {\bigcup }_{c>0}\mathbf{TIME}(c^{S(n)})$；
4. $\mathbf{TIME}(T(n))\subseteq \mathbf{ASPACE}(\log T(n))$。

证明

(1) Savitch 的递归，用 $\forall$ 并行执行。 判断格局图中 $C$ 能否在 $2^i$ 步内到达 $C^{\prime }$：用 $\exists$ 状态猜中点 $C^{\prime \prime }$（$O(S)$ 步写下），再用 $\forall$ 状态选择检查前一半还是后一半，递归下去。递归深度 $O(S)$，每层 $O(S)$ 步，总时间 $O(S^2)$。确定型的 Savitch 算法要逐个试中点、两半先后检查，所以需要指数时间；ATM 的 $\exists$ 一次”猜中”中点，$\forall$ 让两半”同时”检查，只剩下递归深度乘每层开销。

(2) 深度优先地给计算树求值。 计算树深度 $\le T$。按深度优先顺序遍历，用”与/或”规则求值。当前位置用一串至多 $T$ 位的选择序列表示；需要当前格局时，从起始格局按选择序列重新模拟（时间换空间），格局本身不超过 $O(T)$ 格。遍历完一棵子树只保留它的值。总空间 $O(T)$。

(3) 在格局图上求不动点。 $S$ 空间的 ATM 只有 $2^{O(S)}$ 个格局（第 2 讲 §1.2），可设它总会停机（加步数计数器）。先把接受格局标为”真”，然后反复扫描所有格局：$\exists$ 格局若有一个后继为真就标真，$\forall$ 格局若所有后继都为真就标真，直到没有变化。至多扫 $2^{O(S)}$ 轮、每轮 $2^{O(S)}$ 时间，最后看起始格局是否为真。总时间 $2^{O(S)}$。

(4) 在计算表上”倒着猜、并行查”。 设 $M$ 是 $T$ 时间的单带机器，计算表如第 3 讲 §2.3 所示，第 $i$ 行第 $j$ 格的内容由第 $i-1$ 行第 $j-1,j,j+1$ 格决定。ATM 要验证断言”第 $i$ 行第 $j$ 格的内容是 $a$”：

• 若 $i=0$，直接对照输入检查。
• 否则，用 $\exists$ 状态猜出上一行那三格的内容，检查它们与 $a$ 是否符合迁移规则（不符就拒绝）；再用 $\forall$ 状态选其中一格，转而验证关于它的断言。

最开始验证”最后一行输出格的内容是 $1$”。

• 若断言为真，$\exists$ 一方每次都猜真实内容，所有分支都成功。
• 若断言为假，则任何猜测要么与 $a$ 不相容，要么三格中至少有一格猜错了（真实的上一行唯一确定这一格）。$\forall$ 一方挑那一格，于是新的断言也为假。归纳到第 0 行必然被识破。

任何时刻只需记住当前的 $(i,j)$ 和常数个格子内容，空间 $O(\log T)$。$\square$

推论：交替让类”错位一档”。 取 $S,T$ 为 $\log n$、$n^c$、$2^{n^c}$ 等，由 (1)(2) 和 Savitch 定理，由 (3)(4) 直接得到：

推论

$$\begin{array}{ccccccccc}& & \mathbf{AL}& \subseteq & \mathbf{AP}& \subseteq & \mathbf{APSPACE}& \subseteq & \mathbf{AEXP}\cdots \\ & & \Vert & & \Vert & & \Vert & & \Vert \\ \mathbf{L}& \subseteq & \mathbf{P}& \subseteq & \mathbf{PSPACE}& \subseteq & \mathbf{EXP}& \subseteq & \mathbf{EXPSPACE}\cdots \end{array}$$

例如：

• $\mathbf{AP}=\mathbf{PSPACE}$：由 (2)，$\mathbf{ATIME}(n^c)\subseteq \mathbf{SPACE}(n^c)$；由 Savitch 定理和 (1)，$\mathbf{SPACE}(n^c)\subseteq \mathbf{NSPACE}(n^c)\subseteq \mathbf{ATIME}(n^{2c})$。
• $\mathbf{AL}=\mathbf{P}$：由 (3)，$\mathbf{ASPACE}(\log n)\subseteq \mathbf{TIME}(c^{\log n})=\mathbf{P}$；由 (4)，$\mathbf{TIME}(n^c)\subseteq \mathbf{ASPACE}(c\log n)$。
• $\mathbf{APSPACE}=\mathbf{EXP}$，$\mathbf{AEXP}=\mathbf{EXPSPACE}$ 同理。

一句话：交替时间 ≈ 确定空间，交替空间 ≈ 指数的确定时间。$\mathbf{AP}=\mathbf{PSPACE}$ 也印证了第 2 讲的直觉：多项式空间就是双人博弈，而 ATM 正是在模拟博弈。

3.3 有限交替与多项式谱系

$\mathbf{AP}$ 允许多项式次交替，得到 $\mathbf{PSPACE}$；限制交替次数，就得到谱系的各层。

定义：有限交替

若 $L$ 被某个 $O(T(n))$ 时间的 ATM 接受，它的起始状态标为 $\exists$（相应地 $\forall$），并且每条计算路径上 $\exists$ 状态与 $\forall$ 状态之间至多切换 $i-1$ 次，称 $L\in {\Sigma }_i\mathbf{TIME}(T(n))$（相应地 ${\Pi }_i\mathbf{TIME}(T(n))$）。

定理

对每个 $i\ge 1$： ${\Sigma }_i^p={\bigcup }_{c>0}{\Sigma }_i\mathbf{TIME}(n^c),{\Pi }_i^p={\bigcup }_{c>0}{\Pi }_i\mathbf{TIME}(n^c).$

证明用 §2.1 的逻辑刻画：

• ($\subseteq$)：ATM 依次用 $\exists$ 状态猜 $u_1$、用 $\forall$ 状态猜 $u_2$……最后确定地运行 $M(x,u_1,\dots ,u_i)$。共 $i$ 块，切换 $i-1$ 次。
• ($\supseteq$)：每条路径按切换点分成至多 $i$ 段。把第 $j$ 段的所有选择合起来记作 $u_j$，“ATM 接受 $x$“就变成 $\exists u_1\forall u_2\cdots .M^{\prime }(x,u_1,\dots ,u_i)=1$，其中 $M^{\prime }$ 按给定的选择模拟这台 ATM。

于是三种刻画对上了：

视角	${\Sigma }_i^p$	$\mathbf{PSPACE}$
神谕	${\mathbf{NP}}^{{\mathbf{NP}}^{\cdots }}$（$i$ 层）	—
量词	$i$ 块交替量词 + 多项式时间谓词	多项式块交替量词（$\mathrm{TQBF}$）
交替机	多项式时间、至多 $i-1$ 次交替	多项式时间、不限交替次数（$\mathbf{AP}$）

4. Infinite Hierarchy Conjecture

谱系的各层之间是否严格包含？与 $\mathbf{P}\stackrel{?}{=}\mathbf{NP}$ 一样，没人知道。本部分说明谱系有很强的”连锁反应”：只要某一层出现相等，整个谱系就从那里塌下来。

4.1 塌陷定理

定理

若 $\mathbf{P}=\mathbf{NP}$，则 $\mathbf{PH}=\mathbf{P}$。

证明

对 $i$ 归纳证明 ${\Sigma }_i^p=\mathbf{P}$。若 ${\Sigma }_i^p=\mathbf{P}$，则 ${\Sigma }_{i+1}^p={\mathbf{NP}}^{{\Sigma }_i^p}={\mathbf{NP}}^{\mathbf{P}}=\mathbf{NP}=\mathbf{P}.\square$

定理（Meyer-Stockmeyer 1972）

对每个 $i\ge 1$，若 ${\Sigma }_i^p={\Pi }_i^p$，则 $\mathbf{PH}={\Sigma }_i^p$。

由第 1 讲 §4.4 的引理，${\Sigma }_i^p\subseteq {\Pi }_i^p$、${\Pi }_i^p\subseteq {\Sigma }_i^p$、${\Sigma }_i^p={\Pi }_i^p$ 三者等价。

证明

设 ${\Sigma }_i^p={\Pi }_i^p$，$L\in {\Sigma }_{i+1}^p$。由逻辑刻画， $x\in L⟺\exists u_1.\underset{⟨x,u_1⟩\in L^{\prime },L^{\prime }\in {\Pi }_i^p}{\underbrace{[\forall u_2\exists u_3\cdots Q_{i+1}{u}_{i+1}.M(x,u_1,\dots ,u_{i+1})=1]}}.$ 由假设 $L^{\prime }\in {\Pi }_i^p={\Sigma }_i^p$，方括号可改写成以 $\exists$ 开头的 $i$ 块形式。它开头的 $\exists$ 与 $\exists u_1$ 合并，总共只有 $i$ 块，所以 $L\in {\Sigma }_i^p$。于是 ${\Sigma }_{i+1}^p={\Sigma }_i^p$，取补得 ${\Pi }_{i+1}^p={\Pi }_i^p={\Sigma }_i^p$。对上面各层重复同样的论证，整个谱系都等于 ${\Sigma }_i^p$。$\square$

特别地，若 $\mathbf{NP}=\mathbf{coNP}$，则 $\mathbf{PH}=\mathbf{NP}$。${\Sigma }_i^p$ 和 ${\Pi }_i^p$ 像第 $i$ 层的两根柱子，两根合成一根，上面的楼层就全部塌到这一层。

4.2 没有最难的问题

命题

若存在 $\mathbf{PH}$-完全问题（相对 Karp 归约），则存在 $i$ 使 $\mathbf{PH}={\Sigma }_i^p$。

（设 $L$ 是 $\mathbf{PH}$-完全的。$L$ 必在某一层 ${\Sigma }_i^p$ 中。每个 $\mathbf{PH}$ 中的问题都归约到 $L$，而 ${\Sigma }_i^p$ 对 Karp 归约封闭，所以 $\mathbf{PH}\subseteq {\Sigma }_i^p$。）

命题

若 $\mathbf{PH}=\mathbf{PSPACE}$，则 $\mathbf{PH}$ 塌陷到某一层。

（此时 $\mathrm{TQBF}$ 就是 $\mathbf{PH}$-完全的。）

所以，若谱系不塌陷，$\mathbf{PH}$ 是一个”开放”的类：里面只有更难的问题，没有最难的问题。$\mathbf{PSPACE}$ 有完全问题，是”封闭”的，因此人们相信 $\mathbf{PH}⊊\mathbf{PSPACE}$。

4.3 无限谱系假设

无限谱系假设（Infinite Hierarchy Conjecture）

多项式谱系不塌陷：对所有 $i$，${\mathbf{PH}}_i⊊{\mathbf{PH}}_{i+1}$（等价地，${\Sigma }_i^p⊊{\Sigma }_{i+1}^p$）。

由 §4.1，它比 $\mathbf{P}\ne \mathbf{NP}$ 更强。复杂性理论中有很多结果采用”除非多项式谱系塌陷，否则……”的形式：直接从 $\mathbf{P}\ne \mathbf{NP}$ 推不出某个结论时，就借助这个更强的假设。后面会见到这样的例子，例如：若 $\mathbf{NP}$ 有多项式规模的电路，则 $\mathbf{PH}={\Sigma }_2^p$（Karp-Lipton 定理）；若图同构是 $\mathbf{NP}$-完全的，则 $\mathbf{PH}={\Sigma }_2^p$。

Remark

递归论中的算术谱系是已知严格的（用对角线方法），而多项式谱系是否严格却无法证明。这与第 3 讲 §6 的相对化壁垒一脉相承：资源受限之后，对角线方法就不够用了。

5. Time-Space Trade-Off

最后看一个无条件的下界结果。以目前的知识，下面两件事都证明不了：

$$\mathrm{SAT}\notin \mathbf{TIME}(n),\mathrm{SAT}\notin \mathbf{SPACE}(\log n).$$

即我们甚至不能排除 $\mathrm{SAT}$ 有线性时间算法，也不能排除它有对数空间算法。但能证明：没有一个算法能同时做到线性时间和对数空间。 证明方法是本讲交替思想的一个漂亮应用。

5.1 TISP

定义： $\mathbf{TISP}$

设 $S,T:\mathbb{N}\to \mathbb{N}$。若某台图灵机判定 $L$，在每个输入 $x$ 上至多用 $O(T(|x|))$ 时间并且至多用 $O(S(|x|))$ 空间，称 $L\in \mathbf{TISP}(T(n),S(n))$。

注意 $\mathbf{TISP}(T,S)$ 要求同一台机器同时满足两个界，所以它可能比 $\mathbf{TIME}(T)\cap \mathbf{SPACE}(S)$ 小。

定理（Fortnow 2000）

$\mathrm{SAT}\notin \mathbf{TISP}(n^{1.1},n^{0.1}).$

（指数 $1.1$、$0.1$ 是为了计算方便选的，已知结果比这更强，见 van Melkebeek 2007 的综述。）

5.2 第一步：归结为 NTIME(n)

先证明一个关于类的分离：

$$\mathbf{NTIME}(n)⊈\mathbf{TISP}(n^{1.2},n^{0.2}).\text{\hspace{1em}(∗)}$$

由 $(\ast )$ 推出定理：用第 3 讲 §2.3 的第二种证明（快照 + 健忘机），任何 $L\in \mathbf{NTIME}(n)$ 都能归约为一个规模为 $O(n\mathrm{polylog}n)$ 的公式 ${\phi }_x$，而且 ${\phi }_x$ 的每一位都能在 $\mathrm{polylog}(n)$ 时间、$O(\log n)$ 空间内单独算出。若 $\mathrm{SAT}\in \mathbf{TISP}(n^{1.1},n^{0.1})$，就在 ${\phi }_x$ 上运行这个算法，需要 ${\phi }_x$ 的哪一位就当场算哪一位（第 2 讲 §2.3 的”重算代替存储”）。总时间 $(n\mathrm{polylog}n{)}^{1.1}\cdot \mathrm{polylog}n\le n^{1.2}$，总空间 $(n\mathrm{polylog}n{)}^{0.1}+O(\log n)\le n^{0.2}$，于是 $L\in \mathbf{TISP}(n^{1.2},n^{0.2})$，与 $(\ast )$ 矛盾。

5.3 两个引理：引入交替，再消去交替

引理 A（引入交替）

$\mathbf{TISP}(n^{12},n^2)\subseteq {\Sigma }_2\mathbf{TIME}(n^8).$

证明

设 $M$ 在 $n^{12}$ 时间、$n^2$ 空间内判定 $L$。$M$ 的每个格局只有 $O(n^2)$ 位，$x\in L$ 当且仅当格局图中 $C_{\mathrm{start}}$ 在 $n^{12}$ 步内到达 $C_{\mathrm{accept}}$。把这条计算路径每隔 $n^6$ 步设一个”检查点”： $x\in L⟺\exists C_1,\dots ,C_{n^6}\forall j\in [n^6].C_{j-1}\text{ 在 }{n}^6\text{ 步内到达 }{C}_j,$ 其中 $C_0=C_{\mathrm{start}}$，$C_{n^6}=C_{\mathrm{accept}}$。

• $\exists$ 部分：猜 $n^6$ 个格局，每个 $O(n^2)$ 位，共 $O(n^8)$ 位。
• $\forall$ 部分：选一个 $j$（$O(\log n)$ 位），从猜出的串中找到 $C_{j-1},C_j$（$O(n^8)$ 时间），再模拟 $M$ 从 $C_{j-1}$ 走 $n^6$ 步，看能否到 $C_j$（$O(n^6\log n)$ 时间）。

总时间 $O(n^8)$，一次交替，所以 $L\in {\Sigma }_2\mathbf{TIME}(n^8)$。$\square$

直观：确定型机器要老老实实走完 $n^{12}$ 步；有了 $\exists$ 和 $\forall$，就可以”猜出检查点、再并行地检查每一小段”。空间小意味着检查点也小，这才让猜测的代价可以接受。这和 Savitch 定理、§3.2 (1) 是同一个思想。

引理 B（消去交替）

若 $\mathbf{NTIME}(n)\subseteq \mathbf{TIME}(n^{1.2})$，则 ${\Sigma }_2\mathbf{TIME}(n^8)\subseteq \mathbf{NTIME}(n^{9.6})$。

证明

设 $L\in {\Sigma }_2\mathbf{TIME}(n^8)$，由逻辑刻画（此处的时间界是具体的 $O(n^8)$），存在 $O(n^8)$ 时间的 $M$ 使 x\in L\iff\exists u\in\{0,1\}^{c\lvert x\rvert^8}\ \forall v\in\{0,1\}^{d\lvert x\rvert^8}.\ M(x,u,v)=1.\tag{1} 把 $⟨x,u⟩$ 看作新的输入，长度 $m=O(n^8)$。问题"$\exists v.M(x,u,v)=0$"可由一台 NDTM 在 $O(m)$ 时间内解决（猜 $v$，运行 $M$），即它属于 $\mathbf{NTIME}(m)$。由假设，存在 $O(m^{1.2})=O(n^{9.6})$ 时间的确定型机器 $D$ 判定它。确定型机器可以把输出取反，所以 $D^{\prime }(x,u)=1⟺\forall v.M(x,u,v)=1,$ $D^{\prime }$ 也是 $O(n^{9.6})$ 时间的。最后，NDTM 在输入 $x$ 上猜 $u$、运行 $D^{\prime }(x,u)$，由 (1) 它恰好接受 $L$，用时 $O(n^{9.6})$。$\square$

直观：假设”非确定线性时间能被确定型机器快速模拟”，那么内层的 $\forall$（它是 $\exists$ 的补）就能被一台确定型机器吃掉，交替消失了，代价只是指数乘上 $1.2$。

5.4 完成证明：间接对角线

证明（ $(\ast )$：$\mathbf{NTIME}(n)⊈\mathbf{TISP}(n^{1.2},n^{0.2})$）

假设 $\mathbf{NTIME}(n)\subseteq \mathbf{TISP}(n^{1.2},n^{0.2})$。

1. 填充（第 3 讲 §1.7）：对 $L\in \mathbf{NTIME}(n^{10})$，把输入填充到长度 $n^{10}$，填充后的语言属于 $\mathbf{NTIME}(\text{线性})$，由假设属于 $\mathbf{TISP}((n^{10}{)}^{1.2},(n^{10}{)}^{0.2})$。填充部分不必真的写出，只需一个计数器记住输入读写头是否已走进填充区。所以 $\mathbf{NTIME}(n^{10})\subseteq \mathbf{TISP}(n^{12},n^2).$
2. 引入交替（引理 A）：$\mathbf{TISP}(n^{12},n^2)\subseteq {\Sigma }_2\mathbf{TIME}(n^8)$。
3. 消去交替（引理 B，所需前提 $\mathbf{NTIME}(n)\subseteq \mathbf{TISP}(n^{1.2},n^{0.2})\subseteq \mathbf{TIME}(n^{1.2})$ 由假设给出）：${\Sigma }_2\mathbf{TIME}(n^8)\subseteq \mathbf{NTIME}(n^{9.6})$。

连起来得 $\mathbf{NTIME}(n^{10})\subseteq \mathbf{NTIME}(n^{9.6})$。但由非确定时间谱系定理（第 1 讲 §6.3，$(n+1{)}^{9.6}=o(n^{10})$），$\mathbf{NTIME}(n^{9.6})⊊\mathbf{NTIME}(n^{10})$，矛盾。$\square$

指数的选取是一笔账：$n^{12}$ 的时间切成 $n^6$ 段，每段 $n^6$ 步；检查点总长 $n^6\times n^2=n^8$；消去交替时乘 $1.2$ 得 $9.6$，恰好小于 $10$。若假设中的时间、空间指数更大，这笔账就算不过来，这也是为什么只能证明 $n^{1.1}$、$n^{0.1}$ 这样的界。

方法总结：间接对角线（通俗版）

想证明 $\mathbf{NTIME}(n)⊈\mathbf{TISP}(T,S)$：

1. 假设它成立。
2. 推出不太可能的包含：
   • 用交替加速空间受限的计算（猜检查点，并行检查），把”小空间”换成”少时间 + 一次交替”；
   • 再用假设把交替消掉（非确定线性时间被假设成确定型的，取补免费）。 一来一回，非确定时间被压缩了。
3. 用对角线得出矛盾：压缩后的结论违反了时间谱系定理。

对角线只在最后一步出现，前面都是在”放大”假设的后果，所以叫间接对角线。它绕开了直接对角线的局限：我们并没有直接构造一个 $\mathrm{SAT}$ 判定不了的输入。

本讲小结

结论	核心方法
${\Sigma }_i^p\subseteq {\Delta }_{i+1}^p\subseteq {\Sigma }_{i+1}^p$ 等包含关系	神谕定义，问一次 / 取反
Wrathall：${\Sigma }_i^p$ = $i$ 块交替量词	一层神谕 = 一块量词；把与神谕的对话全部猜出来
${\Sigma }_i\mathrm{SAT}$ 是 ${\Sigma }_i^p$-完全的	Cook-Levin，最后一块量词视情况用 $\exists z$ 或 $\forall z$
$\mathbf{PH}\subseteq \mathbf{PSPACE}$	${\Sigma }_i\mathrm{SAT}\subseteq \mathrm{TQBF}$
CKS：$\mathbf{AL}=\mathbf{P}$，$\mathbf{AP}=\mathbf{PSPACE}$，$\mathbf{APSPACE}=\mathbf{EXP}$	Savitch 递归并行化；DFS 求值；格局图不动点；计算表倒着猜
${\Sigma }_i^p$ = 多项式时间、$i-1$ 次交替	按切换点把选择分块
${\Sigma }_i^p={\Pi }_i^p\Rightarrow \mathbf{PH}={\Sigma }_i^p$	相邻同类量词合并
$\mathrm{SAT}\notin \mathbf{TISP}(n^{1.1},n^{0.1})$	间接对角线：引入交替、消去交替、谱系定理