Lecture 1 Introduction

§1–2：讲义 PDF p1–29（slides 无页脚页码） §3.1–3.3：讲义 PDF p30–35 §3.4–4：讲义 PDF p36–62

在线算法研究的是输入逐个到来、决策不可撤销时怎样做决定。它的困难不在计算量，而在不知道未来：即使算力无限，也可能因为信息不足而做错。本讲先给出衡量在线算法好坏的标准（竞争比），再用两个经典问题演示设计与分析的基本套路。

部分	要回答的问题	核心结论
1. Online Algorithms	什么是在线算法？怎样算”好”？	竞争分析：对所有输入比较 $\mathrm{ALG}/\mathrm{OPT}$
2. Ski Rental：确定性	不知道滑几天，哪天买雪板？	第 $b$ 天买，竞争比 $2-\frac{1}{b}$，且是确定性最优
3. Ski Rental：随机化	掷硬币能否做得更好？	竞争比可降到 $\frac{e}{e-1}\approx 1.582$（$b\to \infty$ 时最优）
4. Line Search	不知道目标在哪一侧，怎样找？	确定性最优竞争比为 $9$

1. Online Algorithms

1.1 在线与离线

“Online” 的核心含义是 irrevocable：每一步决策做出后不能撤回。

	离线算法	在线算法
输入	一开始全部给出	按顺序逐个到来，到来时就要决策
例子	选择排序（先看完全部数据）	插入排序（来一个插一个）
挑战	运行时间	信息论意义上的：不知道未来

1.2 竞争分析

既然看不到未来，就拿在线算法与”知道全部输入”的离线最优解比较：能否在不知道未来的情况下接近离线最优？对代价最小化问题，比值越接近 1 越好。

定义：竞争比（competitive ratio）

设 $\mathrm{ALG}(I)$ 为在线算法在输入 $I$ 上的代价，$\mathrm{OPT}(I)$ 为知道整个 $I$ 的离线最优代价。

• 若对每个可能的输入 $I$ 都有 $\frac{\mathrm{ALG}(I)}{\mathrm{OPT}(I)}\le c,$ 则称 ALG 是 $c$-competitive 的，即 ALG 在最坏情况下达到竞争比 $c$。
• 若 $c$ 是任何在线算法能达到的最好竞争比，则称 ALG 是最优在线算法，竞争比 $c$ 是 tight 的。

可以把竞争分析看成算法与对手（adversary）之间的博弈：对手知道算法，专挑让 $\mathrm{ALG}/\mathrm{OPT}$ 最大的输入。竞争比衡量的就是被坑得最惨时比先知差几倍。

Remark：带加性常数的定义

术语 “competitive ratio” 和 “$c$-competitive” 来自 Karlin, Manasse, Rudolph, Sleator 的 Competitive Snoopy Caching（Algorithmica 1988）。原始定义允许一个与输入无关的加性常数 $\alpha$： $\mathrm{ALG}(I)\le c\cdot \mathrm{OPT}(I)+\alpha \text{对所有 }I.$ 若 $c$ 是满足此式的最小常数，称算法 strongly competitive。分页、$k$-server 等问题通常使用这种形式。

1.3 历史与课程结构

竞争分析的源头是分页问题：Denning（1968）的 working set model 研究内存分页，相关的精确分析数十年后才出现（Albers, Favrholdt, Giel 2004）。Sleator & Tarjan（1985）用最坏情况竞争分析研究 list update 与 paging，说明它比平均情况分析更能解释这些算法为何好用。更早的在线问题还有 Graham（1966）的在线调度和 Yao（1980）的在线装箱。

课程分为两大部分：

flowchart TD
  A[Online Algorithms] --> B["① Worst-Case Analysis"]
  A --> C["② Beyond Worst-Case Analysis"]
  B --> B1["按问题：Paging & k-Server、Scheduling、Bin packing、在线图问题<br/>（经典问题 → 经典算法 → 改进 → 推广）"]
  B --> B2["按技术：Primal-dual analysis<br/>（数学技术 → 一般框架 → 应用）"]
  C --> C1["Random order、Stochastic inputs、Recourse augmentation、<br/>Machine-learned advice、Online optimal baseline"]

参考书：Borodin & Pankratov, Online Algorithms（draft）；Buchbinder & Naor, The Design of Competitive Online Algorithms via a Primal-Dual Approach。

成绩：Lecture notes 30 + Lecture notes++ 30（含一个与讲义相关的扩展专题），作业 $4\times 10=40$。

2. Ski Rental

滑雪租赁是在线算法的入门问题：它只有一个决策（哪天买），却能完整演示竞争比、上界与下界、对手论证、随机化这一整套思路。本节先看确定性算法。

2.1 问题与形式化

去滑雪但没有雪板。每个滑雪日开始时决定：租（每天花费 $1$）还是买（一次性花费 $b$，之后不再花钱）。讲义的具体例子取 $b=10$。

定义：Ski Rental 问题

• 参数：租金每天 $1$，买价 $b$（正整数）。
• 输入：总滑雪天数 $T$。离线时 $T$ 已知；在线时未来是否继续滑雪未知，每天开始时才知道今天要滑。
• 在线算法：每天的动作只有”租”或”买”，且至多买一次。确定性算法因此由一个参数 $t$ 刻画：前 $t-1$ 天租，第 $t$ 天买（若还在滑）。
• 代价： ${\mathrm{ALG}}_t(T)=\{\begin{array}{ll}T,& T<t,\\ t-1+b,& T\ge t,\end{array}\mathrm{OPT}(T)=\min (T,b).$

离线最优很简单：$T<b$ 就一直租，否则第一天就买。

2.2 比较几种确定性策略

“第 1 天买”在滑满 10 天时最好，但只滑 1 天时花了 10 倍的钱；“第 8 天买”在只滑 7 天时不吃亏。哪个更好？用竞争比衡量，就要看每个策略的最坏输入。

对策略 $t$，$T<t$ 时 $\mathrm{ALG}=\mathrm{OPT}$；$T\ge t$ 时 ALG 固定为 $t-1+b$，而 OPT 在 $T=t$ 时最小。所以最坏输入是 $T=t$：刚买完就不滑了，此时租金和买价都付了。

策略	最坏输入	ALG	OPT	竞争比
第 1 天买	$T=1$	10	1	10
第 8 天买	$T=8$	17	8	2.125
第 10 天买	$T\ge 10$	19	10	1.9
第 15 天买	$T=15$	24	10	2.4

“第 $b$ 天买”的直觉是：先租，直到已付租金即将达到买价时再买。这样 $T<b$ 时与 OPT 完全一样，$T\ge b$ 时最多是 OPT 的两倍左右。

2.3 Tightness：上界与下界

说”第 $b$ 天买是最好的”需要两方面结果：

• 正面结果（上界）：给出算法，证明其竞争比 $\le c$；
• 负面结果（下界）：证明某个算法、甚至任何算法都做不到比 $c$ 更好。

负面结果靠对手构造坏输入，分两个层次：

• 算法层面：骗一个具体算法。对”第 1 天买”，输入”只滑 1 天”，得其竞争比 $\ge 10$；对”第 10 天买”，输入”只滑 10 天”，得 $\ge 1.9$。
• 问题层面：骗算法设计者。设计者先选定一个确定性算法（即提交 $t$），对手看到 $t$ 后再选输入 $T=t$。

Tightness 也有不同层次：算法层面的 tight 指对某个算法的分析不能再改进；问题层面的 tight 指在某一类算法（确定性、随机化、带 advice……）中竞争比不能再改进。

定理：确定性 Ski Rental 的最优竞争比

买价为正整数 $b$ 时，“第 $b$ 天买”的竞争比为 $2-\frac{1}{b}$；任何确定性在线算法的竞争比都 $\ge 2-\frac{1}{b}$。因此 $2-\frac{1}{b}$ 是 tight 的（$b=10$ 时为 $1.9$）。

证明

上界：取 $t=b$。$T<b$ 时 $\mathrm{ALG}=T=\mathrm{OPT}$；$T\ge b$ 时 $\mathrm{ALG}=2b-1$，$\mathrm{OPT}=b$，比值为 $2-\frac{1}{b}$。

下界：确定性算法由购买日 $t$ 决定（从不购买时，取 $T\to \infty$ 比值无界）。对手取 $T=t$，则 $\mathrm{ALG}=t-1+b$：

• $t\le b$：$\frac{t-1+b}{t}=1+\frac{b-1}{t}\ge 1+\frac{b-1}{b}=2-\frac{1}{b}$；
• $t\ge b+1$：$\frac{t-1+b}{b}\ge \frac{2b}{b}=2$。

两种情况竞争比都 $\ge 2-\frac{1}{b}$。

下图把对手 $T=t$ 带来的比值画成 $t$ 的函数：$t$ 太小，在短期滑雪上亏买价；$t$ 太大，在长期滑雪上多付租金；$t=b$ 恰好平衡两边。

下界论证的关键是对手能预知 $t$：确定性算法的行为对对手完全透明。这正是随机化可能起作用的地方。

练习： $b=4$ 时的最优确定性算法

买价 $b=4$ 时，最优确定性策略在第几天买？竞争比是多少？

答：第 4 天买。$T<4$ 时与 OPT 相同；$T\ge 4$ 时 $\mathrm{ALG}=3+4=7$，$\mathrm{OPT}=4$，竞争比 $\frac{7}{4}=2-\frac{1}{4}$。由定理，没有确定性算法能更好。

3. Ski Rental：随机化

确定性下界之所以成立，是因为对手看到 $t$ 后可以令 $T=t$。若算法自己掷硬币决定哪天买，对手就只知道分布、不知道结果，未必能同时坑到每一种可能。本节先说明随机算法怎样评价，再用两个简单的混合策略说明随机化确实有用，最后把一般随机策略写成一个优化问题。

3.1 随机算法与期望竞争比

定义：随机在线算法的竞争比

• 随机在线算法：确定性在线算法上的一个概率分布。对 Ski Rental，就是购买日 $t$ 上的一个分布。
• 输入 $I$ 在算法做随机选择之前固定（对手知道算法的分布，但不知道随机结果）。若对每个输入 $I$ 都有 $\frac{\mathbb{E}[\mathrm{ALG}(I)]}{\mathrm{OPT}(I)}\le c,$ 则称该随机算法是 $c$-competitive 的。

对 Ski Rental，把期望代价比写成输入的函数 $c(T)=\mathbb{E}[\mathrm{ALG}(T)]/\mathrm{OPT}(T)$，竞争比就是 ${\max }_{T}c(T)$。若对手能先看到随机结果再选 $T$，随机算法就退化为确定性算法，比值回到 $2-\frac{1}{b}$。

3.2 两个 50/50 混合策略

取 $b=10$，各以 $1/2$ 概率执行两个确定性策略：

混合	关键输入	$\mathbb{E}[\mathrm{ALG}]$	OPT	$c(T)$	竞争比
第 1 天买 / 第 10 天买	$T=1$	$\frac{1}{2}(10+1)=5.5$	1	5.5	5.5
第 8 天买 / 第 10 天买	$T=8$	$\frac{1}{2}(17+8)=12.5$	8	1.5625
	$T\ge 10$	$\frac{1}{2}(17+19)=18$	10	1.8	1.8

第一种混合没有帮助：分量”第 1 天买”本身的竞争比是 10，只滑 1 天时一半概率白付买价。第二种混合把竞争比降到 $1.8<1.9$，因为两个分量的最坏输入错开了：坑”第 8 天买”要取 $T=8$，此时”第 10 天买”还在租；坑”第 10 天买”要取 $T\ge 10$，此时”第 8 天买”只花 17。对手只能选一个 $T$，无法同时命中两者。随机化确实有帮助。

3.3 一般随机策略

一般情形下，租金每天 $1$，买价为整数 $b\ge 1$。确定性算法由购买日 $t$ 刻画，随机算法由购买日的分布刻画：

$$p=(p_1,p_2,p_3,\dots ),p_t=\mathrm{Pr}[\text{第 }t\text{ 天买}].$$

要找最优分布，先缩小搜索范围：第 $b$ 天以后才买不会带来好处。

引理：只需在第 $b$ 天前买（Buy by day b）

把所有 $t>b$ 的概率质量移到第 $b$ 天，得到的新分布的竞争比不超过原分布。因此只需考虑 $p_1,\dots ,p_b$，${\sum }_{t=1}^b{p}_t=1$。

证明

• 短季 $T<b$：被移动的购买日（原来 $>b$，现在 $=b$）都还没到，移动前后都在租，代价完全相同。
• 长季 $T\ge b$：新分布下所有人都已在 $b$ 天内买过，代价与 $T$ 无关，其中被移动的部分代价为 $2b-1$。原分布在足够长的季节上，这部分代价为 $t-1+b\ge 2b$，其余部分代价相同，而两者 OPT 都是 $b$。所以新分布在任意 $T\ge b$ 上的比值，不超过原分布在超长季上的比值。

两种情况下新分布的最坏比值都不增加。

接下来写出期望代价。固定 $T\le b$，按购买日分两类：$t\le T$ 时在季内买了，先租 $t-1$ 天再买，代价 $t-1+b$；$t>T$ 时季节结束还在租，代价 $T$。于是

$$C(T)=\sum _{t=1}^T{p}_t(t-1+b)+\sum _{t=T+1}^b{p}_{t}T,c(T)=\frac{C(T)}{T}(1\le T\le b).$$

$T\ge b$ 时所有人都已购买，代价与 OPT 都不再变化，$c(T)=c(b)$。最优随机算法就是求解

$$\underset{p_1,\dots ,p_b}{\min }\underset{1\le T\le b}{\max }c(T),$$

这是一个线性规划。离散求和不便直接求解，下一步改用连续时间来简化计算。

练习：均匀分布行不行？

取 $b=10$，$p_1=\cdots =p_{10}=\frac{1}{10}$。求 $c(1)$，并判断最优分布应把更多概率放在前几天还是后几天。

答：$T=1$ 时，以 $\frac{1}{10}$ 概率第 1 天就买（代价 10），否则只租 1 天（代价 1），$C(1)=\frac{1}{10}\cdot 10+\frac{9}{10}\cdot 1=1.9$，$c(1)=1.9$，并不比确定性算法好。早买在短季上代价很高，所以最优分布应让越晚的购买日概率越大，同时仍保留早买的可能。

3.4 连续时间模型

离散的期望代价是分段求和，直接解 $\min \max$ 很繁琐。把”天”换成连续时间后，求和变成积分，可以用求导来设计分布。连续模型只是分析工具：最后要说明，连续策略得到的上界经过取整后对整数天依然成立。

定义：连续时间 Ski Rental 及其与离散模型的配对

租金为每单位时间 $1$，买价为整数 $b\ge 2$，$\mathrm{OPT}(T)=\min \{T,b\}$。

• 离散模型：季节长度 $T=1,2,\dots$；在第 $i$ 天开始时买，之前已付租金 $i-1$。
• 连续模型：季节长度 $T>0$ 可为实数；购买时刻 $X\in [0,b]$ 是密度为 $p$ 的随机变量，之前已付租金 $X$。若 $X\le T$，代价为 $X+b$；若 $X>T$，代价为 $T$。
• 配对：$X\in (i-1,i]$ 对应第 $i$ 天买，即离散分布取 $p_i=\mathrm{Pr}(i-1<X\le i)={\int }_{i-1}^{i}p(x)dx.$
• 代价与比值：$C_d(T)=\mathbb{E}[{\mathrm{ALG}}_d(T)]$（整数 $T\ge 1$），$C_c(T)=\mathbb{E}[{\mathrm{ALG}}_c(T)]$（实数 $T>0$），$c_d(T)=C_d(T)/\mathrm{OPT}(T)$，$c_c(T)=C_c(T)/\mathrm{OPT}(T)$。在同一模型内省略下标。

与离散情形一样按”季内是否已买”分两类，对 $0<T\le b$ 有

$$C(T)={\int }_0^{T}p(t)(t+b)dt+T{\int }_T^{b}p(t)dt,c(T)=\frac{C(T)}{T}.$$

引理：连续上界蕴含离散上界

设离散分布由连续密度 $p$ 按上述方式配对得到，则 ${\max }_{T\in \{1,\dots ,b\}}{c}_d(T)\le {\max }_{T\in \{1,\dots ,b\}}{c}_c(T)\le {\sup }_{0<T\le b}{c}_c(T).$ $T\ge b$ 时两种模型都已全部购买，比值不再变化。因此连续策略的竞争比上界也是取整后离散策略的竞争比上界。

证明

固定整数 $1\le T\le b$，逐个比较第 $i$ 天对应的区间 $(i-1,i]$：

• $i\le T$（季内已买）：$X\le i\le T$，连续模型也已买。因 $X>i-1$， $p_i(i-1+b)={\int }_{i-1}^{i}p(x)(i-1+b)dx\le {\int }_{i-1}^{i}p(x)(x+b)dx.$
• $i>T$（仍在租）：$X>i-1\ge T$，连续模型也在租，$p_{i}T=T{\int }_{i-1}^{i}p(x)dx$。

对 $i$ 求和得 $C_d(T)\le C_c(T)$，两边同除 $\mathrm{OPT}(T)=T$ 得第一个不等号。第二个不等号是因为允许的 $T$ 越多，最坏情况只会更大。

直观地说，离散模型在第 $i$ 天买只付 $i-1$ 天租金，比连续模型的 $X$ 少，所以取整只会降低代价。

3.5 构造最优连续策略：$\frac{e}{e-1}$

对手会选比值最大的 $T$，所以好的分布应让所有 $T$ 的比值一样大，不给对手留明显的弱点。设计目标是对所有 $0<T\le b$ 有 $C(T)=cT$，即每个滑雪时刻的边际代价恒为 $c$。

对 $C(T)={\int }_0^{T}p(t)(t+b)dt+T{\int }_T^{b}p(t)dt=cT$ 关于 $T$ 求导：

$$C^{\prime }(T)=\underset{\text{此刻新买的人付 }b}{\underbrace{bp(T)}}+\underset{\text{仍在租的人再付一瞬租金}}{\underbrace{{\int }_T^{b}p(t)dt}}=c.$$

再求导一次：

$$b{p}^{\prime }(T)-p(T)=0⟹p(T)=\alpha e^{T/b}.$$

密度必须指数增长。由 ${\int }_0^{b}p(t)dt=\alpha b(e-1)=1$ 归一化，得

$$p(t)=\frac{e^{t/b}}{b(e-1)},0\le t\le b.$$

越晚购买的权重越大，但早买仍有可能。代回边际代价验证：

$$C^{\prime }(T)=\frac{e^{T/b}}{e-1}+\frac{e-e^{T/b}}{e-1}=\frac{e}{e-1},$$

与 $T$ 有关的项正好抵消。又 $C(0)=0$，所以 $C(T)=\frac{e}{e-1}T$，即 $c(T)=\frac{e}{e-1}\approx 1.582$ 对所有 $0<T\le b$ 成立；$T\ge b$ 时代价与 OPT 都不再变化。

定理：随机 Ski Rental 的 $\frac{e}{e-1}$ 上界

对任意整数 $b\ge 2$，按密度 $p(t)=\frac{e^{t/b}}{b(e-1)}$（$t\in [0,b]$）抽取 $X$，在第 $t=\lceil X\rceil$ 天购买，该随机算法的竞争比不超过 $\frac{e}{e-1}\approx 1.582$。

证明

取整后只付 $t-1$ 天租金而不是 $X$，且 $t-1+b\le X+b$。由 3.4 节引理，${\max }_{T\in \{1,\dots ,b\}}{c}_d(T)\le {\sup }_{0<T\le b}{c}_c(T)=\frac{e}{e-1}$。

思路：为什么要让比值处处相等

竞争比是 ${\max }_{T}c(T)$，对手只盯着最大的那个 $T$。如果某些 $T$ 的比值低于其他 $T$，说明那里”保护过度”，可以把概率挪到别处去压低最大值；所以最优分布通常是让 $c(T)$ 处处相等的”均衡”分布。$C(T)=cT$ 说的是：每多滑一瞬，期望代价恰好增加 $c$，而 OPT 增加 $1$。

边际代价由两部分组成：恰在此刻买的人付 $b$（密度 $p(T)$），还没买的人再付一瞬租金（概率 ${\int }_T^{b}p$）。随着 $T$ 增大，还在租的人越来越少，第二项下降，所以第一项必须上升来补偿，于是 $p$ 递增；“补偿速度与自身成正比”，就得到指数增长。

3.6 离散最优解与后续

离散模型本身也可以精确求解：$\min \max c(T)$ 的线性规划给出最优分布与最优比值。

定理：离散 Ski Rental 的最优随机算法

对整数 $b\ge 2$，最优随机算法在第 $i$ 天（$i=1,\dots ,b$）购买的概率为 $p_i=\frac{{\left(1-\frac{1}{b}\right)}^{b-i}}{b\left[1-{\left(1-\frac{1}{b}\right)}^b\right]},$ 最优竞争比为 $c_b=\frac{1}{1-{\left(1-\frac{1}{b}\right)}^b}.$

$p_i$ 是公比 $\frac{b}{b-1}$ 的几何增长，正是指数密度的离散版本。由 ${\left(1-\frac{1}{b}\right)}^b\uparrow e^{-1}$，$c_b$ 随 $b$ 增大而递增并趋于 $\frac{e}{e-1}$：例如 $c_2=\frac{4}{3}$，$c_{10}\approx 1.535$。所以 $\frac{e}{e-1}$ 是对所有 $b$ 一致成立的上界，也是 $b\to \infty$ 时的最优值。

至此，Ski Rental 的最优确定性算法和最优随机算法都已得到。但故事并未结束：如何超越最坏情况分析（例如利用机器学习预测，Improving Online Algorithms via ML Predictions, NeurIPS 2018）？如果关心的不只是期望代价（例如控制尾部风险，Controlling Tail Risk in Online Ski-Rental, SODA 2024）？

练习： $b=2$ 时验证最优分布

$b=2$ 时由公式 $p_1=\frac{1}{3},p_2=\frac{2}{3}$。验证 $c(1)=c(2)=\frac{4}{3}$。

答：$T=1$：以 $\frac{1}{3}$ 概率第 1 天买，代价 $2$；否则租 1 天，代价 $1$。$C(1)=\frac{2}{3}+\frac{2}{3}=\frac{4}{3}$，$c(1)=\frac{4}{3}$。$T=2$：第 1 天买代价 $2$，第 2 天买代价 $1+2=3$，$C(2)=\frac{2}{3}+2=\frac{8}{3}$，$\mathrm{OPT}=2$，$c(2)=\frac{4}{3}$。两个比值相等，正是”均衡”的体现；确定性最优为 $2-\frac{1}{2}=1.5$。

4. Line Search（Cow Path）

Ski Rental 中对手只控制一个数 $T$。下面这个问题同样是算法与对手的博弈，但未知的是目标的方向和距离，算法要在两个方向之间分配搜索，权衡更明显。

4.1 问题与朴素尝试

定义：Line Search（Cow Path）

你站在数轴原点，以单位速度移动。目标位于距离 $D\ge 1$ 处，但不知道在左侧还是右侧（$D$ 也未知），走到目标所在位置时才能发现它。

• $\mathrm{ALG}$：找到目标所用的时间（即总移动距离）；
• $\mathrm{OPT}=D$：知道目标位置时直接走过去。

• Keep-Moving-Right：目标在左侧时永远找不到，竞争比无界。
• Zig-Zag：依次走到 $1$、回原点、走到 $-1$、回原点、走到 $2$……半径每轮加 $1$。目标在右侧 $D$ 处时，之前 $D-1$ 轮每轮花 $4r$，总代价约 $2D^2$，竞争比为 $\Theta (D)$，同样无界。

半径增长太慢，会反复走已经搜过的路；增长太快，最后一趟可能在错误的一侧走得太远。设第 $i$ 轮的搜索半径为 $d_i$，目标在第 $k$ 轮于另一侧被找到，则代价约为

$$\underset{\text{之前的往返：增长越快，重复越少}}{\underbrace{4\sum _{i=0}^{k-1}{d}_i}}+\underset{\text{最后一轮先在错误一侧走 }{d}_k\text{：增长越快，冲过头越多}}{\underbrace{2d_k+D}}.$$

半径应按几何级数增长，下面分析两种倍增方式。

4.2 倍增策略

方式一：两侧都搜完再加倍。 半径依次为 $1,2,4,8,\dots$，每轮先右后左。较难的情形是目标在左侧且 $2^{k-1}<D\le 2^k$：之前各轮代价 $4(1+2+\cdots +2^{k-1})=4(2^k-1)<8D$；最后一轮先向右走 $2^k$ 再返回，然后向左走 $D$，代价 $2\cdot 2^k+D<5D$。总代价 $<13D$，竞争比 $\le 13$。取 $D=2^{k-1}+\epsilon$ 时比值趋于 $13$，所以对这个算法 $13$ 是 tight 的。

方式二：每趟单程后都加倍。 转折点依次为 $+1,-2,+4,-8,+16,\dots$，即第 $j$ 趟走到 $(-2{)}^j$ 再返回原点。

定理：倍增搜索的竞争比

转折点为 $(-2{)}^j$（$j=0,1,2,\dots$）的倍增搜索是 $9$-competitive 的，且对该算法 $9$ 是 tight 的。

证明

设目标在第 $k$ 趟（转折点 $\pm 2^k$）被找到。同侧的上一次到访是第 $k-2$ 趟，到达 $2^{k-2}$ 却没找到目标，所以 $D>2^{k-2}$，即 $2^k<4D$。之前各趟都是往返： $2(1+2+\cdots +2^{k-1})=2(2^k-1)<8D.$ 最后一趟只需走 $D$，总代价 $<8D+D=9D$。

Tight：取 $D=2^{k-2}+\epsilon$，代价为 $2(2^k-1)+D$，当 $\epsilon \to 0$、$k\to \infty$ 时比值趋于 $9$。

下面两张图分别展示倍增搜索的轨迹，以及竞争比随目标距离的变化：目标恰好落在同侧上一次到访点之外时比值最大，峰值逐渐逼近 $9$。

4.3 下界：任何确定性算法都不能优于 9

定理：Line Search 的确定性下界

任何确定性 Line Search 算法的竞争比都不小于 $9$。结合倍增搜索，确定性最优竞争比为 $9$（Beck & Newman 1970）。

证明

规范化。因为 $D\ge 1$，转折距离 $<1$ 的单程找不到目标，可以删去；同侧连续的几趟可以合并。不妨设算法左右交替，第 $i$ 趟的转折距离为 $f_i$，且 $f_i\ge 1,f_{i+2}>f_i,f_{2j},f_{2j+1}\to \infty$ （同侧没有走得更远的单程不会发现新位置；转折距离不趋于无穷时，较远的目标永远找不到）。

对手。把目标放在第 $i$ 趟终点稍外侧： $D=f_i+\epsilon \ge 1,0<\epsilon <f_{i+2}-f_i.$ 第 $i$ 趟差一点碰到它，第 $i+1$ 趟去了另一侧，第 $i+2$ 趟才找到。之前各趟都是往返，于是 $\mathrm{ALG}=2(f_1+\cdots +f_{i+1})+D.$

前缀和递推。设算法是 $c$-competitive 的，$1<c<9$。记 $S_i=f_1+\cdots +f_i,q=\frac{c-1}{2}\in (0,4).$ 由 $\frac{\mathrm{ALG}}{\mathrm{OPT}}=1+\frac{2S_{i+1}}{f_i+\epsilon }\le c$，令 $\epsilon \downarrow 0$ 得 $1+\frac{2S_{i+1}}{f_i}\le c$，整理为 $S_{i+1}\le q{f}_i=q(S_i-S_{i-1}).$

增长比递减。令 $r_i=S_i/S_{i-1}>1$（$i\ge 2$）。上式除以 $S_i$ 得 $r_{i+1}\le q\left(1-\frac{1}{r_i}\right)$，于是 $r_i-r_{i+1}\ge r_i+\frac{q}{r_i}-q\ge 2\sqrt{q}-q=:\delta >0,$ 其中第二步用了 AM-GM；$0<q<4$ 保证 $\delta >0$ 且与 $i$ 无关。

矛盾。每轮 $r_i$ 至少减少 $\delta$，所以 $r_{2+m}\le r_2-m\delta$，$m$ 足够大时右端小于 $1$，与 $r_i>1$ 矛盾。

思路：下界证明在做什么

目标：证明不存在竞争比 $c<9$ 的确定性算法。确定性算法完全由转折距离序列 $f_1,f_2,\dots$ 描述，对手知道整个序列。

对手的策略：每次都把目标放在某一趟刚好够不到的地方。这样算法白白往返了前 $i+1$ 趟，最后还要走 $D$。竞争比 $\le c$ 就转化为对每个 $i$ 成立的不等式 $S_{i+1}\le q{f}_i$：已走过的总路程不能超过刚才那一趟距离的 $q$ 倍。

为什么做不到：搜索要无限进行下去，$S_i$ 必须不断增长；但约束 $S_{i+1}\le q(S_i-S_{i-1})$ 限制了增长速度。用增长比 $r_i=S_i/S_{i-1}$ 来看，这个约束迫使 $r_i$ 每轮至少下降一个固定量 $\delta$，而增长比必须始终大于 $1$，下降不能无限进行。

阈值为何是 9：把约束取等号看成递推 $S_{i+1}=q(S_i-S_{i-1})$，其特征方程 $x^2-qx+q=0$ 当 $q<4$ 时只有复根，解会振荡、无法保持正的增长；$q\ge 4$ 时才有实根（$q=4$ 时为重根 $2$，对应倍增）。$q=4$ 即 $c=1+2q=9$。

4.4 随机化

与 Ski Rental 一样，随机化在这里也有帮助：最优随机算法的竞争比约为 $4.5911$（Kao, Reif & Tate 1996），而确定性最优为 $9$。两者都是各自模型中的最优值；随机情形下，目标位置在算法做随机选择之前固定。