Lecture 2 Paging

讲义 PDF p1–88（slides 无页脚页码）

Paging（缓存替换）是竞争分析的发源地：缓存只能放 $k$ 个页面，请求逐个到来，缺页时必须当场决定逐出哪个页面，而不知道未来会请求什么。本讲按 Lecture 1 的套路走完一个经典问题的全过程：先找出”好”的确定性算法并证明上界，再证明没有确定性算法能做得更好；然后引入随机化，给出 $O(\log k)$ 的随机算法，并用一个新工具（Yao 原理）证明随机算法的下界。

部分	要回答的问题	核心结论
1. Paging 问题	问题是什么？常见算法谁好谁坏？	LIFO、LFU 的竞争比无界
2. FIFO 与 LRU	好算法好在哪里？	阶段分析：FIFO、LRU 是 $k$-competitive
3. 确定性下界	还能更好吗？	任何确定性算法 $\ge k$，FIFO、LRU 最优
4. 随机化	随机能否突破 $k$？	RAND 仍是 $k$；Random Marking 为 $2H_k=O(\log k)$
5. 随机下界	随机算法的极限是多少？	Yao 原理：任何随机算法 $\ge H_k$
6. 拓展	换个比较基准或模型会怎样？	资源增广、机器学习建议、加权 paging、$k$-server

其中 $H_k=1+\frac{1}{2}+\cdots +\frac{1}{k}\approx \ln k$ 是调和数。

1. Paging 问题

1.1 背景与定义

存储层次从快到慢依次是寄存器、内存、SSD、硬盘、云存储。高速存储需要从低速存储取数据时，速度瓶颈在低速一侧，常用办法是在中间放一个小而快的缓存（cache）。CPU 请求一个页面时先查缓存：在缓存中称为命中（hit）；不在则为缺页（miss），要把页面调入缓存，缓存已满时还要先逐出一个旧页面。目标是让缺页尽量少。

定义：Paging 问题

• 输入：缓存大小 $k$；页面请求序列 $\sigma =x_1,x_2,\dots ,x_n$。
• 在线决策：$x_i$ 到达时，若 $x_i$ 不在缓存中，缺页数加 $1$，把 $x_i$ 调入缓存；若缓存已满，须当场决定逐出哪个页面。
• 目标：最小化缺页次数，用竞争比衡量。

缺页时必须把请求的页面调入，算法唯一的自由是逐出谁。

1.2 经典算法

算法	缺页且缓存满时逐出
FIFO（First In First Out）	最早调入缓存的页面
LRU（Least Recently Used）	最久没有被使用（请求）的页面
LFU（Least Frequently Used）	被请求次数最少的页面
LIFO（Last In First Out）	最晚调入缓存的页面

FIFO 与 LRU 的区别在于”旧”的含义：FIFO 看调入时刻，命中不会改变顺序；LRU 看最近一次请求时刻，命中会刷新顺序。按最坏情况竞争比，FIFO、LRU 远好于 LFU、LIFO。

Remark：离线最优算法

知道整个请求序列时，最优策略是 Belady 的 LFD（Longest Forward Distance）：缺页时逐出下一次请求最晚（或不再请求）的页面。后面分析 OPT 时会直接用这一策略。

1.3 LIFO 与 LFU 的竞争比无界

LIFO：取 $k=2$，只用页面 $1,2,3$，输入 $1,2,3,2,3,2,3,\dots$。LIFO 总是逐出刚调入的页面，于是 $2$ 和 $3$ 轮流把对方挤出去，每次请求都缺页；OPT 在第一次请求 $3$ 时逐出 $1$，之后全部命中。因此 $\mathrm{ALG}=n$，$\mathrm{OPT}=3$，竞争比 $\ge n/3=\Omega (n)$。

例：LIFO 在 $k=2$ 时的缓存变化

请求	1	2	3	2	3	2	…
LIFO 缓存	{1}	{1,2}	{1,3}	{1,2}	{1,3}	{1,2}	…
LIFO 缺页	✓	✓	✓	✓	✓	✓	每次
OPT 缓存	{1}	{1,2}	{2,3}	{2,3}	{2,3}	{2,3}	…
OPT 缺页	✓	✓	✓				不再缺页

页面 $1$ 永远占着一个位置，LIFO 只在剩下的一个位置上反复替换。

LFU：竞争比同样是 $\Omega (n)$。仿照 LIFO 的坏实例构造：

1. 初始化：请求 $1,2$，缓存为 $\{1,2\}$。ALG、OPT 各付 $2$。
2. 设置频率：请求 $1$ 共 $m$ 次（全部命中），使页面 $1$ 的频率远高于其他页面。
3. 愚弄阶段：请求 $3,2,3,2,\dots$ 共 $m$ 次。LFU 永远不逐出高频的 $1$，只能让 $2$、$3$ 互相挤占，每次都缺页，代价 $m$；OPT 在第一次请求 $3$ 时逐出 $1$，只付 $1$。

竞争比为 $\Theta (m)=\Theta (n)$。

两个坏例子的共同问题是存在一个愚弄阶段：OPT 的代价完全不增加，ALG 的代价却一直增加。于是自然要问：能否保证 OPT 每增加 $1$，ALG 至多增加 $k$？FIFO 与 LRU 正是这样的算法。

2. FIFO 与 LRU 是 $k$-competitive

证明的思路是把输入切成若干阶段（phase），然后分别证明：每个阶段 OPT 至少付 $1$，而 FIFO/LRU 至多付 $k$。

2.1 阶段划分

定义： $k$-阶段划分

从头扫描请求序列，每个阶段尽量长，但其中只能出现 $k$ 个不同页面；遇到第 $k+1$ 个不同页面时，开始新阶段，该请求是新阶段的第一个请求。

• 记 $x(i,j)$ 为第 $i$ 个阶段的第 $j$ 个请求，$n(i)$ 为第 $i$ 个阶段的请求数。
• 除最后一个阶段外，每个阶段恰好包含 $k$ 个不同页面。

阶段划分只由输入决定，与算法无关。例如 $k=3$ 时，输入 $4121\left|5344\right|123$ 分为三个阶段：第一阶段的不同页面是 $\{4,1,2\}$，请求 $5$ 是第 $4$ 个不同页面，开始第二阶段 $\{5,3,4\}$；请求 $1$ 开始第三阶段。

2.2 OPT 的下界

引理 1：每个阶段 OPT 至少缺页一次

在请求 $x(i,2)$ 到 $x(i+1,1)$ 这一段中，任何算法（包括 OPT）至少缺页一次。

证明

这一段包含第 $i$ 阶段除 $x(i,1)$ 外的 $k-1$ 个不同页面，再加上 $x(i+1,1)$（它不属于第 $i$ 阶段），共 $k$ 个不同页面，且都不等于 $x(i,1)$。刚服务完 $x(i,1)$ 时，缓存中有 $x(i,1)$，至多还能放 $k-1$ 个其他页面，放不下这 $k$ 个页面，所以这一段中至少缺页一次。

图中各段（$x(i,2)$ 到 $x(i+1,1)$）互不重叠，所以若共有 $P$ 个阶段，则 $\mathrm{OPT}\ge P-1$。

2.3 FIFO/LRU 的上界

引理 2：每个阶段 FIFO/LRU 至多缺页 $k$ 次

从 $x(i,1)$ 到 $x(i,n(i))$，FIFO 或 LRU 至多缺页 $k$ 次。

设第 $i$ 阶段的 $k$ 个不同页面为 $p_1,\dots ,p_k$。引理 2 由下面的引理 3 推出：每个页面在本阶段被请求后就”安全”了，所以每个页面在本阶段至多缺页一次，共至多 $k$ 次。

引理 3：请求过的页面在本阶段内是安全的

• LRU：页面 $p_j$ 在本阶段被请求后，LRU 在本阶段内不会逐出 $p_j$。
• FIFO：页面 $p_j$ 在本阶段因缺页被调入后，FIFO 在本阶段内不会逐出它。

证明

LRU：要逐出 $p_j$，它必须是缓存中最久未使用的页面，即缓存中另外 $k-1$ 个页面都在 $p_j$ 之后被请求过，再加上触发这次缺页的新页面，本阶段在 $p_j$ 之后就出现了 $k$ 个不同于 $p_j$ 的页面，加上 $p_j$ 共 $k+1$ 个，与阶段定义矛盾。

FIFO（对时间归纳）：$p_j$ 调入后，要逐出它，必须在它之后再发生 $k$ 次缺页、调入 $k$ 个页面。由归纳假设，本阶段每个页面至多缺页一次，而除 $p_j$ 外本阶段只有 $k-1$ 个页面，所以在本阶段内凑不齐 $k$ 次缺页。

FIFO 的引理要求 $p_j$ 是”因缺页调入”的：若 $p_j$ 在本阶段第一次请求时命中（它从上一阶段就在缓存里），FIFO 仍可能因为它调入得早而把它逐出。但此时它在本阶段还没有因缺页付过费，再缺页一次也不超过”每页一次”的计数。

定理：FIFO 与 LRU 的竞争比

FIFO 和 LRU 都是 $k$-competitive 的：$\mathrm{ALG}\le kP\le k\cdot \mathrm{OPT}+k$，其中 $P$ 为阶段数。

3. 确定性下界：$k$ 是最优的

上一节的分析是否已经最紧？要回答两个问题：$k$ 对 FIFO/LRU 是否 tight？$k$ 对整个问题是否 tight？思路是构造输入，让上下界同时取等：每个阶段 OPT 恰好付 $1$，算法恰好付 $k$。

3.1 FIFO 的紧例子

取 $k=4$，先请求 $1,2,3,4$ 填满缓存，之后每次都请求 FIFO 缓存中刚被逐出的页面：$5,1,2,3,4,5,1,\dots$。FIFO 每次都缺页，每个阶段付 $k$；OPT 在每个阶段开头逐出本阶段不会被请求的那个页面（如第二阶段 $5,1,2,3$ 中逐出 $4$），每个阶段只付 $1$。

3.2 愚弄所有确定性算法

上面的构造对任何确定性算法都适用：对手可以模拟算法，总是请求算法缓存中缺少的那个页面。

定理：Paging 的确定性下界

任何确定性在线 paging 算法的竞争比都不小于 $k$。因此 FIFO、LRU 是最优确定性算法。

证明

只用 $k+1$ 个页面。缓存满后，在任意时刻恰有一个页面不在算法的缓存中；确定性算法的行为可被对手预先算出，对手每次都请求这个页面，于是算法每次都缺页，$\mathrm{ALG}=n$（去掉开头填满缓存的部分）。

对同一序列，用 LFD 估计 OPT。设 LFD 在时刻 $t$ 缺页，它在缓存的 $k$ 个页面中逐出下一次请求最晚的页面 $q$，所以另外 $k-1$ 个页面都会在 $q$ 之前被请求。由于总共只有 $k+1$ 个页面，下一次缺页只能发生在再次请求 $q$ 时，至少是 $k$ 个请求之后。所以 LFD 至多每 $k$ 个请求缺页一次，$\mathrm{OPT}\le n/k+O(k)$。

于是 $\mathrm{ALG}/\mathrm{OPT}\to k$（$n\to \infty$，加性常数被吸收）。

4. 随机化

确定性下界又一次依赖”对手知道算法缓存中缺哪一页”。随机算法让对手无法确定缺的是哪一页。

4.1 随机逐出（RAND）

定义：RAND

缺页且缓存已满时，从缓存的 $k$ 个页面中均匀随机选一个逐出，调入请求的页面；缓存有空位时直接调入。

RAND 的期望竞争比仍是 $k$，且是 tight 的（输入固定，期望对随机逐出取）。问题出在 RAND 对页面的历史一无所知：它会以同样的概率逐出刚刚请求过的页面。

一个无用页面：$k=3$，初始缓存 $\{1,2,3\}$，之后反复请求 $4,1,2,4,1,2,\dots$，页面 $3$ 再也不被请求。OPT 在第一次缺页时逐出 $3$，总代价 $1$。RAND 只要还保留着 $3$，就有某个被反复请求的页面不在缓存中，两步之内必然再次缺页；每次缺页以概率 $\frac{1}{3}$ 逐出 $3$。记 $N$ 为直到逐出 $3$ 为止（含这一次）的缺页数，则 $N\sim \mathrm{Geom}(\frac{1}{3})$，$\mathbb{E}[N]=3=k$。

紧下界：用 $k+1$ 个页面：$C=\{1,\dots ,k-1\}$ 以及 $a,b$。初始缓存为 $C\cup \{a\}$，交替请求两种长块

$$(b,1,\dots ,k-1{)}^L,(a,1,\dots ,k-1{)}^L,(b,1,\dots ,k-1{)}^L,\dots$$

（块长 $L$ 事先固定）。OPT 始终保留 $C$，每块只缺页一次。在 $b$ 块中，$a$ 是无用页面，RAND 每次缺页以 $\frac{1}{k}$ 的概率逐出它，所以每块期望缺页数在 $L$ 足够大时趋于 $k$。重复足够多块，加性常数可以忽略，竞争比趋于 $k$。

4.2 Marking 算法族

既然 RAND 的问题是”会逐出刚请求过的页面”，就应该保留 LRU 分析中真正起作用的性质。回看第 2 节，LRU 能达到 $k$ 只用到了两点：

• 知道阶段何时切换；
• 本阶段请求过的页面是安全的，不会被逐出。

把这两点单独提出来，就得到一族算法，LRU 是其中之一。

定义：Marking 算法

每个缓存页面带一个标记位。收到请求 $x$ 时：

1. 若 $x$ 在缓存中：标记 $x$。
2. 若 $x$ 不在缓存中：任选一个未标记页面逐出，调入 $x$ 并标记。
3. 若 $x$ 不在缓存中且所有页面都已标记：开始新阶段，清除所有标记，再执行第 2 步。

第 2 步中”任选”规则不同，就得到不同的 marking 算法。Random Marking 在未标记页面中均匀随机选一个逐出。

flowchart TD
  R[收到请求 x] --> Q{x 在缓存中?}
  Q -- 是 --> M[标记 x]
  Q -- 否 --> U{有未标记页面?}
  U -- 有 --> E[逐出一个未标记页面<br/>调入 x 并标记]
  U -- 无 --> P[新阶段：清除所有标记] --> E

被标记的页面就是本阶段请求过的页面，所有页面都被标记时恰好有 $k$ 个不同页面出现过，所以 marking 算法的阶段与第 2 节的 $k$-阶段划分一致。由引理 1 和”每个页面在本阶段至多缺页一次”，任何 marking 算法都是 $k$-competitive 的。LRU 是 marking 算法（被逐出的最久未使用页面一定未标记，除非开始新阶段）；FIFO 不是（见文末练习）。

4.3 Random Marking 的分析

为什么不能沿用”每阶段 OPT 付 $1$“：要让 ALG 每阶段的代价小于 $k$，就不能再用”OPT 每阶段至少付 $1$“这个过粗的下界。例如 $k=3$ 时，输入 $4121\left|5366\right|123$ 的第二阶段三个页面全是新的，任何算法（包括 OPT）在这一阶段都要付约 $k$。所以代价应该和每个阶段”新页面的数量”挂钩。

定义：新页面数 $m_i$

$m_i$ 为第 $i$ 阶段中不在第 $i-1$ 阶段出现过的不同页面数（新页面）；第 $i$ 阶段的其余 $k-m_i$ 个页面称为旧页面。约定第 $0$ 阶段为空，故 $m_1=k$。

引理 1'：OPT 的下界

$\mathrm{OPT}\ge \frac{1}{2}{\sum }_i{m}_i.$

证明

设 OPT 在第 $i$ 阶段缺页 $o_i$ 次。第 $i-1$、$i$ 两个阶段合起来请求了 $k+m_i$ 个不同页面，而第 $i-1$ 阶段开始时 OPT 的缓存至多有 $k$ 个页面，所以这两个阶段中 OPT 至少缺页 $m_i$ 次：$o_{i-1}+o_i\ge m_i$（$i\ge 2$），且 $o_1\ge m_1$。对 $i$ 求和，每个 $o_i$ 至多被计两次，得 $2\mathrm{OPT}\ge {\sum }_i{m}_i$。

再看 Random Marking 在一个阶段中的代价。阶段开始时，缓存恰好是上一阶段请求过的 $k$ 个页面（即本阶段眼中的”旧页面”候选），全部未标记。

• 新页面：每个新页面必然缺页一次，共 $m_i$。
• 旧页面：只有在第一次被请求之前就被逐出时才缺页。对手希望旧页面尽量多被逐出，最坏情况是先请求所有新页面，再请求旧页面：新页面越早到，被逐出的旧页面越多。

引理 4：旧页面的缺页概率

把第 $i$ 阶段被请求的旧页面按首次请求的先后排序，第 $j$ 个旧页面首次被请求时缺页的概率至多为 $\frac{m_i}{k-j+1}.$

证明

称”本阶段尚未被请求、且已被逐出的旧页面”为空洞。每请求一个新页面，就逐出一个未标记页面，即一个尚未请求的旧页面，空洞数加 $1$；每当一个旧页面缺页，它从空洞变回缓存中的页面，同时又逐出另一个未请求的旧页面，空洞数不变。所以空洞数始终等于已请求的新页面数，至多 $m_i$。

第 $j$ 个旧页面被请求时，前 $j-1$ 个旧页面已被标记，尚未请求的旧页面还有 $k-j+1$ 个。逐出总是在未标记页面中均匀随机进行，由对称性，空洞是这 $k-j+1$ 个页面中的均匀随机子集。因此第 $j$ 个旧页面恰好是空洞的概率至多为 $\frac{m_i}{k-j+1}$。

（讲义用组合计数得到同样结果：先请求完 $m_i$ 个新页面时，从 $k$ 个旧页面中逐出 $m_i$ 个，第 1 个旧页面被逐出的概率为 $\left(\genfrac{}{}{0ex}{}{k-1}{m_i-1}\right)/\left(\genfrac{}{}{0ex}{}{k}{m_i}\right)=\frac{m_i}{k}$；依此类推。）

定理：Random Marking 的竞争比

Random Marking 是 $2H_k$-competitive 的，即竞争比为 $O(\log k)$。

证明

第 $i$ 阶段旧页面至多 $k-m_i$ 个，由引理 4，期望代价 $\mathbb{E}[{\mathrm{ALG}}_i]\le m_i+{\sum }_{j=1}^{k-m_i}\frac{m_i}{k-j+1}=m_i\left(1+H_k-H_{m_i}\right)\le m_i{H}_k.$ 对阶段求和并结合引理 1’：$\mathbb{E}[\mathrm{ALG}]\le H_k{\sum }_i{m}_i\le 2H_k\cdot \mathrm{OPT}$。

思路：为什么随机能从 $k$ 降到 $\log k$

确定性算法被坑，是因为对手每次都知道”缓存里缺的是哪一页”，下一步就请求它。Random Marking 中，空洞（被逐出的旧页面）是随机的，对手只能盲猜。

每个阶段中，对手能让 OPT 付的费用约为新页面数 $m_i$；新页面在 ALG 的旧页面中”打出” $m_i$ 个空洞。对手接着请求旧页面，想撞上空洞：第 1 次撞中的概率是 $\frac{m_i}{k}$，之后被请求过的旧页面被标记保护，候选越来越少，撞中概率依次是 $\frac{m_i}{k-1},\frac{m_i}{k-2},\dots$。这些概率加起来是调和级数，只有 $m_i\ln k$ 量级，而不是确定性情形下的 $m_i\cdot k$。

分析中的因子 $2$ 来自 OPT 的下界：一个阶段的新页面，OPT 可以提前在上一阶段处理，所以只能保证相邻两阶段合起来付 $m_i$。

Tightness：在算法层面，可以构造每阶段 $m_i=1$ 的输入（与确定性 $k$ 下界类似，只用 $k+1$ 个页面），计算期望与上面的分析几乎相同，说明 Random Marking 的竞争比确实是 $\Theta (\log k)$。在问题层面，要证明所有随机算法都做不到更好就难多了：Ski Rental 的随机策略只是购买日上的一个分布，可以直接优化；而 paging 的随机算法有太多种，无法逐一分析，需要新的工具。

5. 随机下界：Yao 原理

5.1 对手的三个层次

讨论随机算法的下界之前，先要说清对手知道什么。

对手	知道什么	评价
Adaptive offline	算法的全部随机比特	等价于离线对手，太强：随机化没有用
Adaptive online	根据算法已做出的决策在线构造输入，但自己的服务也必须在线做出	中间层次
Oblivious	只知道算法的代码（分布），输入须事先固定	较弱但合理，本课程的默认设定

Lecture 1 中随机算法竞争比的定义（输入在随机选择之前固定）就是 oblivious 对手。

5.2 Yao 的极小极大原理

在 oblivious 对手下证明随机下界，困难在于要对付所有随机算法。Yao 原理把问题反过来：对手先公开一个输入分布，算法设计者知道这个分布后再选一个确定性算法。只要这时每个确定性算法都表现不好，任何随机算法也都表现不好。

例：排序的随机下界（回忆）

行是输入，列是确定性算法，格子里是代价。每个确定性算法都有某个输入让它付很多（如 $n^2$），但不同算法的坏输入不同；而对四个输入取均匀混合后，每个确定性算法的期望代价都 $\ge \log n!$。随机算法是各列的混合，所以它在这个输入分布下的期望代价也 $\ge \log n!$，从而存在某个具体输入使其期望代价 $\ge \log n!$。

定理：Yao 原理（用于竞争比）

若存在一个输入分布 $\mathcal{D}$，使每个确定性在线算法 $A$ 都满足 ${\mathbb{E}}_{I\sim \mathcal{D}}[A(I)]\ge c\cdot {\mathbb{E}}_{I\sim \mathcal{D}}[\mathrm{OPT}(I)],$ 则对每个随机在线算法 $R$，存在输入 $I$ 使 $\mathbb{E}[R(I)]\ge c\cdot \mathrm{OPT}(I)$，即 $R$ 的竞争比至少为 $c$（对 oblivious 对手）。

证明

固定 $c$，定义收益 $g_A(I)=A(I)-c\cdot \mathrm{OPT}(I)$。

• 算法先选：选随机算法 $R$（确定性算法上的分布），对手知道 $R$ 但不知道随机比特，$X={\inf }_R{\sup }_I{\mathbb{E}}_{A\sim R}[g_A(I)]$。
• 分布先选：选输入分布 $\mathcal{D}$，设计者知道后选确定性算法，$Y={\sup }_{\mathcal{D}}{\inf }_A{\mathbb{E}}_{I\sim \mathcal{D}}[g_A(I)]$。

对任意 $R$ 和 $\mathcal{D}$， ${\sup }_I{\mathbb{E}}_{A\sim R}[g_A(I)]\ge {\mathbb{E}}_{I\sim \mathcal{D}}{\mathbb{E}}_{A\sim R}[g_A(I)]={\mathbb{E}}_{A\sim R}{\mathbb{E}}_{I\sim \mathcal{D}}[g_A(I)]\ge {\inf }_A{\mathbb{E}}_{I\sim \mathcal{D}}[g_A(I)].$ 所以 $X\ge Y$（Yao 不等式）。条件即找到了 $\mathcal{D}$ 使 ${\inf }_A{\mathbb{E}}_{\mathcal{D}}[g_A(I)]\ge 0$，于是每个 $R$ 都有某个 $I$ 使 $\mathbb{E}[g_R(I)]\ge 0$。

使用 Yao 原理的套路：固定一个与算法随机比特无关的输入分布 $\mathcal{D}$；设计者知道 $\mathcal{D}$ 后选确定性算法 $A$；证明每个 $A$ 都有 ${\mathbb{E}}_{\mathcal{D}}[A(I)]\ge c\cdot {\mathbb{E}}_{\mathcal{D}}[\mathrm{OPT}(I)]$。随机化只是对这些确定性代价取平均，不会更好。

5.3 Paging 的 $H_k$ 下界

怎样设计坏分布：它既要有机会愚弄算法，又要足够”均衡”，不让知道分布的设计者找到可利用的规律。回忆确定性下界：$k+1$ 个页面，每次请求算法缺的那一页。现在对手不知道算法缺哪一页，而设计者知道分布，于是最均衡的做法是：每次独立地从 $k+1$ 个页面中均匀随机请求一个。

ALG：无论算法怎么做，缓存至多放 $k$ 个页面，每次请求的页面不在缓存中的概率至少为 $\frac{1}{k+1}$。于是 $\mathbb{E}[{\mathrm{ALG}}_n]\ge \frac{n}{k+1}$。

OPT：在第一个阶段之后，OPT 每个阶段至多缺页一次：在阶段开始的缺页时，逐出本阶段不会被请求的那个页面（$k+1$ 个页面中恰有一个不在本阶段出现），本阶段剩下的请求全部命中。所以 OPT 约等于阶段数，关键是阶段有多长。

引理：Coupon Collector

每次从 $n$ 种优惠券中均匀随机抽一张，抽齐所有 $n$ 种所需的期望次数为 $n{H}_n\approx n\ln n$。

一个阶段从某个页面开始（已知 $1$ 种），在第 $k+1$ 种页面出现时结束，期望长度为 ${\sum }_{i=1}^k\frac{k+1}{k+1-i}=(k+1)H_k\approx k\ln k.$

证明

已有 $i$ 种时，下一次抽到新种类的概率为 $\frac{n-i}{n}$，等待次数服从几何分布，期望 $\frac{n}{n-i}$。对 $i$ 求和即得。阶段的情形是 $n=k+1$、从 $i=1$ 开始。

粗略计算（$n$ 很大）：阶段数约为 $\frac{n}{(k+1)H_k}$，所以

$$\mathbb{E}[{\mathrm{OPT}}_n]\approx \frac{n}{(k+1)H_k},\mathbb{E}[{\mathrm{ALG}}_n]\ge \frac{n}{k+1},\frac{\mathbb{E}[{\mathrm{ALG}}_n]}{\mathbb{E}[{\mathrm{OPT}}_n]}\gtrsim H_k=\Omega (\log k).$$

“阶段数约为 $n/$平均阶段长度”需要严格化，用的是更新理论中的结论。

定理：初等更新定理（Elementary renewal theorem）

设 $S_1,S_2,\dots$ 独立同分布，$\mathrm{Pr}(S_1>0)=1$，$0<\mu =\mathbb{E}[S_1]<\infty$。令 $T_0=0$，$T_m={\sum }_{i=1}^m{S}_i$，$X_n=\max \{m\in {\mathbb{Z}}_{\ge 0}:T_m\le n\}$ 为到时刻 $n$ 为止完成的更新次数，则 ${\lim }_{n\to \infty }\frac{\mathbb{E}[X_n]}{n}=\frac{1}{\mu }.$ 不需要有限方差或连续性假设。

在 paging 中，$S_i$ 是阶段长度（请求独立，各阶段长度独立同分布），$\mu =(k+1)H_k$。

定理：Paging 的随机下界

任何随机在线 paging 算法（对 oblivious 对手）的竞争比至少为 $H_k=\Omega (\log k)$。

证明

由 OPT 每阶段至多缺页一次（另加初始至多 $k$ 次），$\mathbb{E}[{\mathrm{OPT}}_n]\le \mathbb{E}[X_n]+O(k)$，由更新定理 ${\mathrm{limsup}}_{n\to \infty }\frac{\mathbb{E}[{\mathrm{OPT}}_n]}{n}\le \frac{1}{(k+1)H_k}.$ 结合 $\mathbb{E}[{\mathrm{ALG}}_n]\ge \frac{n}{k+1}$ 对每个确定性算法成立， ${\mathrm{liminf}}_{n\to \infty }\frac{\mathbb{E}[{\mathrm{ALG}}_n]}{\mathbb{E}[{\mathrm{OPT}}_n]}\ge H_k.$ 对任何加性常数 $b$，取 $n\to \infty$ 使 $b/n\to 0$，再由 Yao 原理，每个随机算法的竞争比至少为 $H_k$。

至此 paging 的图景是：确定性最优为 $k$，随机算法可以做到 $2H_k$，下界为 $H_k$，两者只差常数因子 $2$。

Remark： $H_k$ 是 tight 的

存在竞争比恰为 $H_k$ 的随机 paging 算法（McGeoch & Sleator 1991 的 Partition 算法；Achlioptas, Chrobak & Noga 2000 的 Equitable 算法），所以随机 paging 的最优竞争比就是 $H_k$。

6. 拓展

$(h,k)$-paging 与资源增广：在线算法的缓存大小为 $k$，而作为基准的 OPT 只有 $h<k$ 的缓存。

	竞争比	来源
确定性	$\frac{k}{k-h+1}$（tight）	Sleator & Tarjan 1985
随机	约 $2\ln \frac{k}{k-h}$（almost tight）	Young 1991

这种分析称为资源增广（resource augmentation）。理论上，它是一种放宽的分析、换了一个比较基准；实践上，如果发现 LRU 表现不好，与其设计新算法（困难），不如把缓存加倍（容易）：$k=2h$ 时确定性比值约为 $2$。

机器学习建议：请求到达时，额外得到对该页面下一次请求时间的预测（Lykouris & Vassilvitskii, ICML 2018）。预测正确时竞争比为 $O(1)$，预测完全错误时仍为 $O(\log k)$，并随预测误差平滑退化。

推广模型：

• 加权 paging：不同页面调入缓存的代价不同。由树上 $k$-server 的结果可得竞争比 $k$。
• $k$-server：度量空间中有 $k$ 个服务器，服务一个请求就是把某个服务器移到请求点。Paging 是 $k$-server 在均匀度量上的特例，见下一讲。

练习：FIFO 不是 marking 算法

构造一个输入，使 FIFO 在某个阶段内逐出了本阶段已被请求过的页面。

答：取 $k=3$，请求 $1,2,3|4,2,5$。第二阶段开始时请求 $4$，FIFO 逐出 $1$，缓存为 $\{2,3,4\}$，调入顺序为 $2,3,4$。请求 $2$ 命中，$2$ 在本阶段已被请求（marking 算法会标记它）。请求 $5$ 时本阶段不同页面为 $\{4,2,5\}$，仍在第二阶段；FIFO 逐出最早调入的 $2$，而 marking 算法只能逐出未标记的 $3$。这也说明 FIFO 的引理 3 为什么只保护”因缺页调入”的页面。

练习：LRU 是 marking 算法

说明 LRU 在阶段内不会逐出已标记页面。

答：已标记页面就是本阶段请求过的页面。若 LRU 在阶段内逐出某个本阶段请求过的页面 $p$，则 $p$ 是最久未使用的，缓存中其他 $k-1$ 个页面以及当前请求的新页面都在 $p$ 之后被请求，本阶段就出现了 $k+1$ 个不同页面，矛盾。所以 LRU 只在新阶段开始时（全部已标记）才可能逐出本阶段请求过的页面，符合 marking 规则。