Basic

author: Ir1d, CBW2007, ChungZH, xhn16729, Xeonacid, tptpp, hsfzLZH1, ouuan, Marcythm, HeRaNO, greyqz, Chrogeek, partychicken, zhb2000, xyf007, Persdre, XiaoSuan250, hhc0001, ZhangZhanhaoxiang, Taoran_01

本页面主要介绍了动态规划的基本思想，以及动态规划中状态及状态转移方程的设计思路，帮助各位初学者对动态规划有一个初步的了解．

本部分的其他页面，将介绍各种类型问题中动态规划模型的建立方法，以及一些动态规划的优化技巧．

引入

???+ note "[IOI1994] 数字三角形" 给定一个 $r$ 行的数字三角形（$r \leq 1000$），需要找到一条从最高点到底部任意处结束的路径，使路径经过数字的和最大．每一步可以走到当前点左下方的点或右下方的点．

```plain
        7 
      3   8 
    8   1   0 
  2   7   4   4 
4   5   2   6   5 
```

在上面这个例子中，最优路径是 $7 \to 3 \to 8 \to 7 \to 5$．

最简单粗暴的思路是尝试所有的路径．因为路径条数是 $O(2^r)$ 级别的，这样的做法无法接受．

注意到这样一个事实，一条最优的路径，它的每一步决策都是最优的．

以例题里提到的最优路径为例，只考虑前四步 $7 \to 3 \to 8 \to 7$，不存在一条从最顶端到 $4$ 行第 $2$ 个数的权值更大的路径．

而对于每一个点，它的下一步决策只有两种：往左下角或者往右下角（如果存在）．因此只需要记录当前点的最大权值，用这个最大权值执行下一步决策，来更新后续点的最大权值．

这样做还有一个好处：我们成功缩小了问题的规模，将一个问题分成了多个规模更小的问题．要想得到从顶端到第 $r$ 行的最优方案，只需要知道从顶端到第 $r-1$ 行的最优方案的信息就可以了．

这时候还存在一个问题：子问题间重叠的部分会有很多，同一个子问题可能会被重复访问多次，效率还是不高．解决这个问题的方法是把每个子问题的解存储下来，通过记忆化的方式限制访问顺序，确保每个子问题只被访问一次．

上面就是动态规划的一些基本思路．下面将会更系统地介绍动态规划的思想．

动态规划原理

能用动态规划解决的问题，需要满足三个条件：最优子结构，无后效性和子问题重叠．

最优子结构

具有最优子结构也可能是适合用贪心的方法求解．

注意要确保我们考察了最优解中用到的所有子问题．

证明问题最优解的第一个组成部分是做出一个选择；
对于一个给定问题，在其可能的第一步选择中，假定你已经知道哪种选择才会得到最优解．你现在并不关心这种选择具体是如何得到的，只是假定已经知道了这种选择；
给定可获得的最优解的选择后，确定这次选择会产生哪些子问题，以及如何最好地刻画子问题空间；
证明作为构成原问题最优解的组成部分，每个子问题的解就是它本身的最优解．方法是反证法，考虑加入某个子问题的解不是其自身的最优解，那么就可以从原问题的解中用该子问题的最优解替换掉当前的非最优解，从而得到原问题的一个更优的解，从而与原问题最优解的假设矛盾．

要保持子问题空间尽量简单，只在必要时扩展．

最优子结构的不同体现在两个方面：

原问题的最优解中涉及多少个子问题；
确定最优解使用哪些子问题时，需要考察多少种选择．

子问题图中每个定点对应一个子问题，而需要考察的选择对应关联至子问题顶点的边．

无后效性

已经求解的子问题，不会再受到后续决策的影响．

子问题重叠

如果有大量的重叠子问题，我们可以用空间将这些子问题的解存储下来，避免重复求解相同的子问题，从而提升效率．

基本思路

对于一个能用动态规划解决的问题，一般采用如下思路解决：

将原问题划分为若干阶段，每个阶段对应若干个子问题，提取这些子问题的特征（称之为状态）；
寻找每一个状态的可能决策，或者说是各状态间的相互转移方式（用数学的语言描述就是 状态转移方程）．
按顺序求解每一个阶段的问题．

如果用图论的思想理解，我们建立一个有向无环图，每个状态对应图上一个节点，决策对应节点间的连边．这样问题就转变为了一个在 DAG 上寻找最长（短）路的问题（参见：DAG 上的 DP）．

最长公共子序列

???+ note "最长公共子序列问题" 给定一个长度为 $n$ 的序列 $A$ 和一个长度为 $m$ 的序列 $B$（$n,m \leq 5000$），求出一个最长的序列，使得该序列既是 $A$ 的子序列，也是 $B$ 的子序列．

子序列的定义可以参考子序列．一个简要的例子：字符串 abcde 与字符串 acde 的公共子序列有 a、c、d、e、ac、ad、ae、cd、ce、de、acd、ade、ace、cde、acde，最长公共子序列的长度是 4．

设 $f(i,j)$ 表示只考虑 $A$ 的前 $i$ 个元素，$B$ 的前 $j$ 个元素时的最长公共子序列的长度，求这时的最长公共子序列的长度就是 子问题．$f(i,j)$ 就是我们所说的状态，则 $f(n,m)$ 是最终要达到的状态，即为所求结果．

对于每个 $f(i,j)$，存在三种决策：如果 $A_i=B_j$，则可以将它接到公共子序列的末尾；另外两种决策分别是跳过 $A_i$ 或者 $B_j$．状态转移方程如下：

$$ f(i,j)=\begin{cases}f(i-1,j-1)+1&A_i=B_j\\max(f(i-1,j),f(i,j-1))&A_i\ne B_j\end{cases} $$

可参考 SourceForge 的 LCS 交互网页来更好地理解 LCS 的实现过程．

???+ example "参考实现" === "C++" cpp --8<-- "docs/dp/code/basic/lcs.cpp:core"

=== "Python"
    ```cpp
    --8<-- "docs/dp/code/basic/lcs.py:core"
    ```

该做法的时间复杂度为 $O(nm)$．

另外，本题存在 $O\left(\dfrac{nm}{w}\right)$ 的算法¹．有兴趣的同学可以自行探索．

最长不下降子序列

???+ note "最长不下降子序列问题" 给定一个长度为 $n$ 的序列 $a$（$n \leq 5000$），求出一个最长的 $a$ 的子序列，满足该子序列的后一个元素不小于前一个元素．

算法一

设 $f(i)$ 表示以 $a_i$ 为结尾的最长不下降子序列的长度，则所求为 $\max_{1 \leq i \leq n} f(i)$．

计算 $f(i)$ 时，尝试将 $a_i$ 接到其他的最长不下降子序列后面，以更新答案．于是可以写出这样的状态转移方程：$f(i)=\max_{1 \leq j < i,~a_j \leq a_i} (f(j)+1)$．

???+ example "参考实现" === "C++" cpp --8<-- "docs/dp/code/basic/lis-1.cpp:core"

=== "Python"
    ```python
    --8<-- "docs/dp/code/basic/lis-1.py:core"
    ```

容易发现该算法的时间复杂度为 $O(n^2)$．

算法二

当 $n$ 的范围扩大到 $n \leq 10^5$ 时，第一种做法就不够快了，下面给出了一个 $O(n \log n)$ 的做法．

考虑之前定义的状态 $(i, l)$，表示序列以第 $i$ 个元素结尾的不下降子序列最长为 $l$．不同于以往按固定 $i$ 处理状态的方法，这里直接判断 $(i, l)$ 是否合法：

初始状态 $(1,1)$ 必然合法．
对于任意 $(i, l)$，如果存在 $j < i$ 且 $(j, l-1)$ 合法，同时 $a_j \le a_i$，则 $(i, l)$ 合法．

最终，只需要找到合法状态中 $l$ 最大的 $(i,l)$，即可得到最长不下降子序列的长度．

设原序列为 $a_1, \cdots, a_n$，定义数组 $d$，其中第 $x$ 位表示长度为 $x$ 的不下降子序列末尾元素的最小值．初始时序列为空．令 $i$ 从 $1$ 到 $n$ 遍历，依次求出前 $i$ 个元素的最长不下降子序列的长度．对于当前元素 $a_i$：

如果 $a_i$ 大于等于序列 $d$ 中最后一个元素，直接将元素 $a_i$ 插入到序列 $d$ 的末尾．
- 解释：若 $a_i$ 大于等于当前最长子序列的末尾元素，说明存在一个不下降子序列可以接上 $a_i$．不插入将破坏最优性．
如果 $a_i$ 严格小于 $d$ 中最后一个元素，找到 第一个 大于它的元素，并用 $a_i$ 替换它．
- 解释：若直接插在末尾，会破坏 $d$ 的单调性；替换操作可以保证每个长度的末尾元素尽可能小，从而为后续元素保留更多可能性．
- 优化：因为 $d$ 单调不减，可用二分查找直接找到元素的插入位置，将整体复杂度降低到 $O(n\log n)$ 而非暴力查找的 $O(n^2)$．

如果还要输出具体的最长不下降子序列，可以额外维护数组 $d'_x$，表示长度为 $x$ 的不下降子序列中末尾最小元素的位置（有多个可任选一个）．具体维护时，只需要在插入元素 $a_i$ 到 $d_x$ 时，同时更新 $d'x$ 为 $i$ 即可．同时，需要记录 $i$ 的最优前驱 $p_i$ 为 $d'{x-1}$．最终，从任意最大长度状态出发，沿前驱 $p_i$ 回溯，即可得到完整子序列．

???+ example "参考实现" === "C++" cpp --8<-- "docs/dp/code/basic/lis-2.cpp:core"

=== "Python"
    ```python
    --8<-- "docs/dp/code/basic/lis-2.py:core"
    ```

该算法的时间复杂度为 $O(n\log n)$．输出答案的时间复杂度为 $O(\textit{ans})$．

???+ tip "注意" 对于最长上升子序列问题，类似地，可以令 $d_i$ 表示所有长度为 $i$ 的最长上升子序列的末尾元素的最小值．

需要注意的是，在步骤 2 中，若 $a_i \leq d_{len}$，由于最长上升子序列中相邻元素不能相等，需要在 $d$ 序列中找到 **第一个**  **不小于**  $a_i$ 的元素，用 $a_i$ 替换之．

在实现上（以 C++ 为例），需要将 `upper_bound` 函数改为 `lower_bound`．

参考资料与注释

最长不下降子序列 nlogn 算法详解 - lvmememe - 博客园

位运算求最长公共子序列 - -Wallace- - 博客园 ↩

引入