14.1 初探動態規劃¶
動態規劃(dynamic programming)是一個重要的演算法範式,它將一個問題分解為一系列更小的子問題,並透過儲存子問題的解來避免重複計算,從而大幅提升時間效率。
在本節中,我們從一個經典例題入手,先給出它的暴力回溯解法,觀察其中包含的重疊子問題,再逐步導出更高效的動態規劃解法。
爬樓梯
給定一個共有 \(n\) 階的樓梯,你每步可以上 \(1\) 階或者 \(2\) 階,請問有多少種方案可以爬到樓頂?
如圖 14-1 所示,對於一個 \(3\) 階樓梯,共有 \(3\) 種方案可以爬到樓頂。
圖 14-1 爬到第 3 階的方案數量
本題的目標是求解方案數量,我們可以考慮透過回溯來窮舉所有可能性。具體來說,將爬樓梯想象為一個多輪選擇的過程:從地面出發,每輪選擇上 \(1\) 階或 \(2\) 階,每當到達樓梯頂部時就將方案數量加 \(1\) ,當越過樓梯頂部時就將其剪枝。程式碼如下所示:
def backtrack(choices: list[int], state: int, n: int, res: list[int]) -> int:
"""回溯"""
# 當爬到第 n 階時,方案數量加 1
if state == n:
res[0] += 1
# 走訪所有選擇
for choice in choices:
# 剪枝:不允許越過第 n 階
if state + choice > n:
continue
# 嘗試:做出選擇,更新狀態
backtrack(choices, state + choice, n, res)
# 回退
def climbing_stairs_backtrack(n: int) -> int:
"""爬樓梯:回溯"""
choices = [1, 2] # 可選擇向上爬 1 階或 2 階
state = 0 # 從第 0 階開始爬
res = [0] # 使用 res[0] 記錄方案數量
backtrack(choices, state, n, res)
return res[0]
/* 回溯 */
void backtrack(vector<int> &choices, int state, int n, vector<int> &res) {
// 當爬到第 n 階時,方案數量加 1
if (state == n)
res[0]++;
// 走訪所有選擇
for (auto &choice : choices) {
// 剪枝:不允許越過第 n 階
if (state + choice > n)
continue;
// 嘗試:做出選擇,更新狀態
backtrack(choices, state + choice, n, res);
// 回退
}
}
/* 爬樓梯:回溯 */
int climbingStairsBacktrack(int n) {
vector<int> choices = {1, 2}; // 可選擇向上爬 1 階或 2 階
int state = 0; // 從第 0 階開始爬
vector<int> res = {0}; // 使用 res[0] 記錄方案數量
backtrack(choices, state, n, res);
return res[0];
}
/* 回溯 */
void backtrack(List<Integer> choices, int state, int n, List<Integer> res) {
// 當爬到第 n 階時,方案數量加 1
if (state == n)
res.set(0, res.get(0) + 1);
// 走訪所有選擇
for (Integer choice : choices) {
// 剪枝:不允許越過第 n 階
if (state + choice > n)
continue;
// 嘗試:做出選擇,更新狀態
backtrack(choices, state + choice, n, res);
// 回退
}
}
/* 爬樓梯:回溯 */
int climbingStairsBacktrack(int n) {
List<Integer> choices = Arrays.asList(1, 2); // 可選擇向上爬 1 階或 2 階
int state = 0; // 從第 0 階開始爬
List<Integer> res = new ArrayList<>();
res.add(0); // 使用 res[0] 記錄方案數量
backtrack(choices, state, n, res);
return res.get(0);
}
/* 回溯 */
void Backtrack(List<int> choices, int state, int n, List<int> res) {
// 當爬到第 n 階時,方案數量加 1
if (state == n)
res[0]++;
// 走訪所有選擇
foreach (int choice in choices) {
// 剪枝:不允許越過第 n 階
if (state + choice > n)
continue;
// 嘗試:做出選擇,更新狀態
Backtrack(choices, state + choice, n, res);
// 回退
}
}
/* 爬樓梯:回溯 */
int ClimbingStairsBacktrack(int n) {
List<int> choices = [1, 2]; // 可選擇向上爬 1 階或 2 階
int state = 0; // 從第 0 階開始爬
List<int> res = [0]; // 使用 res[0] 記錄方案數量
Backtrack(choices, state, n, res);
return res[0];
}
/* 回溯 */
func backtrack(choices []int, state, n int, res []int) {
// 當爬到第 n 階時,方案數量加 1
if state == n {
res[0] = res[0] + 1
}
// 走訪所有選擇
for _, choice := range choices {
// 剪枝:不允許越過第 n 階
if state+choice > n {
continue
}
// 嘗試:做出選擇,更新狀態
backtrack(choices, state+choice, n, res)
// 回退
}
}
/* 爬樓梯:回溯 */
func climbingStairsBacktrack(n int) int {
// 可選擇向上爬 1 階或 2 階
choices := []int{1, 2}
// 從第 0 階開始爬
state := 0
res := make([]int, 1)
// 使用 res[0] 記錄方案數量
res[0] = 0
backtrack(choices, state, n, res)
return res[0]
}
/* 回溯 */
func backtrack(choices: [Int], state: Int, n: Int, res: inout [Int]) {
// 當爬到第 n 階時,方案數量加 1
if state == n {
res[0] += 1
}
// 走訪所有選擇
for choice in choices {
// 剪枝:不允許越過第 n 階
if state + choice > n {
continue
}
// 嘗試:做出選擇,更新狀態
backtrack(choices: choices, state: state + choice, n: n, res: &res)
// 回退
}
}
/* 爬樓梯:回溯 */
func climbingStairsBacktrack(n: Int) -> Int {
let choices = [1, 2] // 可選擇向上爬 1 階或 2 階
let state = 0 // 從第 0 階開始爬
var res: [Int] = []
res.append(0) // 使用 res[0] 記錄方案數量
backtrack(choices: choices, state: state, n: n, res: &res)
return res[0]
}
/* 回溯 */
function backtrack(choices, state, n, res) {
// 當爬到第 n 階時,方案數量加 1
if (state === n) res.set(0, res.get(0) + 1);
// 走訪所有選擇
for (const choice of choices) {
// 剪枝:不允許越過第 n 階
if (state + choice > n) continue;
// 嘗試:做出選擇,更新狀態
backtrack(choices, state + choice, n, res);
// 回退
}
}
/* 爬樓梯:回溯 */
function climbingStairsBacktrack(n) {
const choices = [1, 2]; // 可選擇向上爬 1 階或 2 階
const state = 0; // 從第 0 階開始爬
const res = new Map();
res.set(0, 0); // 使用 res[0] 記錄方案數量
backtrack(choices, state, n, res);
return res.get(0);
}
/* 回溯 */
function backtrack(
choices: number[],
state: number,
n: number,
res: Map<0, any>
): void {
// 當爬到第 n 階時,方案數量加 1
if (state === n) res.set(0, res.get(0) + 1);
// 走訪所有選擇
for (const choice of choices) {
// 剪枝:不允許越過第 n 階
if (state + choice > n) continue;
// 嘗試:做出選擇,更新狀態
backtrack(choices, state + choice, n, res);
// 回退
}
}
/* 爬樓梯:回溯 */
function climbingStairsBacktrack(n: number): number {
const choices = [1, 2]; // 可選擇向上爬 1 階或 2 階
const state = 0; // 從第 0 階開始爬
const res = new Map();
res.set(0, 0); // 使用 res[0] 記錄方案數量
backtrack(choices, state, n, res);
return res.get(0);
}
/* 回溯 */
void backtrack(List<int> choices, int state, int n, List<int> res) {
// 當爬到第 n 階時,方案數量加 1
if (state == n) {
res[0]++;
}
// 走訪所有選擇
for (int choice in choices) {
// 剪枝:不允許越過第 n 階
if (state + choice > n) continue;
// 嘗試:做出選擇,更新狀態
backtrack(choices, state + choice, n, res);
// 回退
}
}
/* 爬樓梯:回溯 */
int climbingStairsBacktrack(int n) {
List<int> choices = [1, 2]; // 可選擇向上爬 1 階或 2 階
int state = 0; // 從第 0 階開始爬
List<int> res = [];
res.add(0); // 使用 res[0] 記錄方案數量
backtrack(choices, state, n, res);
return res[0];
}
/* 回溯 */
fn backtrack(choices: &[i32], state: i32, n: i32, res: &mut [i32]) {
// 當爬到第 n 階時,方案數量加 1
if state == n {
res[0] = res[0] + 1;
}
// 走訪所有選擇
for &choice in choices {
// 剪枝:不允許越過第 n 階
if state + choice > n {
continue;
}
// 嘗試:做出選擇,更新狀態
backtrack(choices, state + choice, n, res);
// 回退
}
}
/* 爬樓梯:回溯 */
fn climbing_stairs_backtrack(n: usize) -> i32 {
let choices = vec![1, 2]; // 可選擇向上爬 1 階或 2 階
let state = 0; // 從第 0 階開始爬
let mut res = Vec::new();
res.push(0); // 使用 res[0] 記錄方案數量
backtrack(&choices, state, n as i32, &mut res);
res[0]
}
/* 回溯 */
void backtrack(int *choices, int state, int n, int *res, int len) {
// 當爬到第 n 階時,方案數量加 1
if (state == n)
res[0]++;
// 走訪所有選擇
for (int i = 0; i < len; i++) {
int choice = choices[i];
// 剪枝:不允許越過第 n 階
if (state + choice > n)
continue;
// 嘗試:做出選擇,更新狀態
backtrack(choices, state + choice, n, res, len);
// 回退
}
}
/* 爬樓梯:回溯 */
int climbingStairsBacktrack(int n) {
int choices[2] = {1, 2}; // 可選擇向上爬 1 階或 2 階
int state = 0; // 從第 0 階開始爬
int *res = (int *)malloc(sizeof(int));
*res = 0; // 使用 res[0] 記錄方案數量
int len = sizeof(choices) / sizeof(int);
backtrack(choices, state, n, res, len);
int result = *res;
free(res);
return result;
}
/* 回溯 */
fun backtrack(
choices: MutableList<Int>,
state: Int,
n: Int,
res: MutableList<Int>
) {
// 當爬到第 n 階時,方案數量加 1
if (state == n)
res[0] = res[0] + 1
// 走訪所有選擇
for (choice in choices) {
// 剪枝:不允許越過第 n 階
if (state + choice > n) continue
// 嘗試:做出選擇,更新狀態
backtrack(choices, state + choice, n, res)
// 回退
}
}
/* 爬樓梯:回溯 */
fun climbingStairsBacktrack(n: Int): Int {
val choices = mutableListOf(1, 2) // 可選擇向上爬 1 階或 2 階
val state = 0 // 從第 0 階開始爬
val res = mutableListOf<Int>()
res.add(0) // 使用 res[0] 記錄方案數量
backtrack(choices, state, n, res)
return res[0]
}
### 回溯 ###
def backtrack(choices, state, n, res)
# 當爬到第 n 階時,方案數量加 1
res[0] += 1 if state == n
# 走訪所有選擇
for choice in choices
# 剪枝:不允許越過第 n 階
next if state + choice > n
# 嘗試:做出選擇,更新狀態
backtrack(choices, state + choice, n, res)
end
# 回退
end
### 爬樓梯:回溯 ###
def climbing_stairs_backtrack(n)
choices = [1, 2] # 可選擇向上爬 1 階或 2 階
state = 0 # 從第 0 階開始爬
res = [0] # 使用 res[0] 記錄方案數量
backtrack(choices, state, n, res)
res.first
end
// 回溯
fn backtrack(choices: []i32, state: i32, n: i32, res: std.ArrayList(i32)) void {
// 當爬到第 n 階時,方案數量加 1
if (state == n) {
res.items[0] = res.items[0] + 1;
}
// 走訪所有選擇
for (choices) |choice| {
// 剪枝:不允許越過第 n 階
if (state + choice > n) {
continue;
}
// 嘗試:做出選擇,更新狀態
backtrack(choices, state + choice, n, res);
// 回退
}
}
// 爬樓梯:回溯
fn climbingStairsBacktrack(n: usize) !i32 {
var choices = [_]i32{ 1, 2 }; // 可選擇向上爬 1 階或 2 階
var state: i32 = 0; // 從第 0 階開始爬
var res = std.ArrayList(i32).init(std.heap.page_allocator);
defer res.deinit();
try res.append(0); // 使用 res[0] 記錄方案數量
backtrack(&choices, state, @intCast(n), res);
return res.items[0];
}
視覺化執行
14.1.1 方法一:暴力搜尋¶
回溯演算法通常並不顯式地對問題進行拆解,而是將求解問題看作一系列決策步驟,透過試探和剪枝,搜尋所有可能的解。
我們可以嘗試從問題分解的角度分析這道題。設爬到第 \(i\) 階共有 \(dp[i]\) 種方案,那麼 \(dp[i]\) 就是原問題,其子問題包括:
由於每輪只能上 \(1\) 階或 \(2\) 階,因此當我們站在第 \(i\) 階樓梯上時,上一輪只可能站在第 \(i - 1\) 階或第 \(i - 2\) 階上。換句話說,我們只能從第 \(i -1\) 階或第 \(i - 2\) 階邁向第 \(i\) 階。
由此便可得出一個重要推論:爬到第 \(i - 1\) 階的方案數加上爬到第 \(i - 2\) 階的方案數就等於爬到第 \(i\) 階的方案數。公式如下:
這意味著在爬樓梯問題中,各個子問題之間存在遞推關係,原問題的解可以由子問題的解構建得來。圖 14-2 展示了該遞推關係。
圖 14-2 方案數量遞推關係
我們可以根據遞推公式得到暴力搜尋解法。以 \(dp[n]\) 為起始點,遞迴地將一個較大問題拆解為兩個較小問題的和,直至到達最小子問題 \(dp[1]\) 和 \(dp[2]\) 時返回。其中,最小子問題的解是已知的,即 \(dp[1] = 1\)、\(dp[2] = 2\) ,表示爬到第 \(1\)、\(2\) 階分別有 \(1\)、\(2\) 種方案。
觀察以下程式碼,它和標準回溯程式碼都屬於深度優先搜尋,但更加簡潔:
視覺化執行
圖 14-3 展示了暴力搜尋形成的遞迴樹。對於問題 \(dp[n]\) ,其遞迴樹的深度為 \(n\) ,時間複雜度為 \(O(2^n)\) 。指數階屬於爆炸式增長,如果我們輸入一個比較大的 \(n\) ,則會陷入漫長的等待之中。
圖 14-3 爬樓梯對應遞迴樹
觀察圖 14-3 ,指數階的時間複雜度是“重疊子問題”導致的。例如 \(dp[9]\) 被分解為 \(dp[8]\) 和 \(dp[7]\) ,\(dp[8]\) 被分解為 \(dp[7]\) 和 \(dp[6]\) ,兩者都包含子問題 \(dp[7]\) 。
以此類推,子問題中包含更小的重疊子問題,子子孫孫無窮盡也。絕大部分計算資源都浪費在這些重疊的子問題上。
14.1.2 方法二:記憶化搜尋¶
為了提升演算法效率,我們希望所有的重疊子問題都只被計算一次。為此,我們宣告一個陣列 mem
來記錄每個子問題的解,並在搜尋過程中將重疊子問題剪枝。
- 當首次計算 \(dp[i]\) 時,我們將其記錄至
mem[i]
,以便之後使用。 - 當再次需要計算 \(dp[i]\) 時,我們便可直接從
mem[i]
中獲取結果,從而避免重複計算該子問題。
程式碼如下所示:
def dfs(i: int, mem: list[int]) -> int:
"""記憶化搜尋"""
# 已知 dp[1] 和 dp[2] ,返回之
if i == 1 or i == 2:
return i
# 若存在記錄 dp[i] ,則直接返回之
if mem[i] != -1:
return mem[i]
# dp[i] = dp[i-1] + dp[i-2]
count = dfs(i - 1, mem) + dfs(i - 2, mem)
# 記錄 dp[i]
mem[i] = count
return count
def climbing_stairs_dfs_mem(n: int) -> int:
"""爬樓梯:記憶化搜尋"""
# mem[i] 記錄爬到第 i 階的方案總數,-1 代表無記錄
mem = [-1] * (n + 1)
return dfs(n, mem)
/* 記憶化搜尋 */
int dfs(int i, vector<int> &mem) {
// 已知 dp[1] 和 dp[2] ,返回之
if (i == 1 || i == 2)
return i;
// 若存在記錄 dp[i] ,則直接返回之
if (mem[i] != -1)
return mem[i];
// dp[i] = dp[i-1] + dp[i-2]
int count = dfs(i - 1, mem) + dfs(i - 2, mem);
// 記錄 dp[i]
mem[i] = count;
return count;
}
/* 爬樓梯:記憶化搜尋 */
int climbingStairsDFSMem(int n) {
// mem[i] 記錄爬到第 i 階的方案總數,-1 代表無記錄
vector<int> mem(n + 1, -1);
return dfs(n, mem);
}
/* 記憶化搜尋 */
int dfs(int i, int[] mem) {
// 已知 dp[1] 和 dp[2] ,返回之
if (i == 1 || i == 2)
return i;
// 若存在記錄 dp[i] ,則直接返回之
if (mem[i] != -1)
return mem[i];
// dp[i] = dp[i-1] + dp[i-2]
int count = dfs(i - 1, mem) + dfs(i - 2, mem);
// 記錄 dp[i]
mem[i] = count;
return count;
}
/* 爬樓梯:記憶化搜尋 */
int climbingStairsDFSMem(int n) {
// mem[i] 記錄爬到第 i 階的方案總數,-1 代表無記錄
int[] mem = new int[n + 1];
Arrays.fill(mem, -1);
return dfs(n, mem);
}
/* 記憶化搜尋 */
int DFS(int i, int[] mem) {
// 已知 dp[1] 和 dp[2] ,返回之
if (i == 1 || i == 2)
return i;
// 若存在記錄 dp[i] ,則直接返回之
if (mem[i] != -1)
return mem[i];
// dp[i] = dp[i-1] + dp[i-2]
int count = DFS(i - 1, mem) + DFS(i - 2, mem);
// 記錄 dp[i]
mem[i] = count;
return count;
}
/* 爬樓梯:記憶化搜尋 */
int ClimbingStairsDFSMem(int n) {
// mem[i] 記錄爬到第 i 階的方案總數,-1 代表無記錄
int[] mem = new int[n + 1];
Array.Fill(mem, -1);
return DFS(n, mem);
}
/* 記憶化搜尋 */
func dfsMem(i int, mem []int) int {
// 已知 dp[1] 和 dp[2] ,返回之
if i == 1 || i == 2 {
return i
}
// 若存在記錄 dp[i] ,則直接返回之
if mem[i] != -1 {
return mem[i]
}
// dp[i] = dp[i-1] + dp[i-2]
count := dfsMem(i-1, mem) + dfsMem(i-2, mem)
// 記錄 dp[i]
mem[i] = count
return count
}
/* 爬樓梯:記憶化搜尋 */
func climbingStairsDFSMem(n int) int {
// mem[i] 記錄爬到第 i 階的方案總數,-1 代表無記錄
mem := make([]int, n+1)
for i := range mem {
mem[i] = -1
}
return dfsMem(n, mem)
}
/* 記憶化搜尋 */
func dfs(i: Int, mem: inout [Int]) -> Int {
// 已知 dp[1] 和 dp[2] ,返回之
if i == 1 || i == 2 {
return i
}
// 若存在記錄 dp[i] ,則直接返回之
if mem[i] != -1 {
return mem[i]
}
// dp[i] = dp[i-1] + dp[i-2]
let count = dfs(i: i - 1, mem: &mem) + dfs(i: i - 2, mem: &mem)
// 記錄 dp[i]
mem[i] = count
return count
}
/* 爬樓梯:記憶化搜尋 */
func climbingStairsDFSMem(n: Int) -> Int {
// mem[i] 記錄爬到第 i 階的方案總數,-1 代表無記錄
var mem = Array(repeating: -1, count: n + 1)
return dfs(i: n, mem: &mem)
}
/* 記憶化搜尋 */
function dfs(i, mem) {
// 已知 dp[1] 和 dp[2] ,返回之
if (i === 1 || i === 2) return i;
// 若存在記錄 dp[i] ,則直接返回之
if (mem[i] != -1) return mem[i];
// dp[i] = dp[i-1] + dp[i-2]
const count = dfs(i - 1, mem) + dfs(i - 2, mem);
// 記錄 dp[i]
mem[i] = count;
return count;
}
/* 爬樓梯:記憶化搜尋 */
function climbingStairsDFSMem(n) {
// mem[i] 記錄爬到第 i 階的方案總數,-1 代表無記錄
const mem = new Array(n + 1).fill(-1);
return dfs(n, mem);
}
/* 記憶化搜尋 */
function dfs(i: number, mem: number[]): number {
// 已知 dp[1] 和 dp[2] ,返回之
if (i === 1 || i === 2) return i;
// 若存在記錄 dp[i] ,則直接返回之
if (mem[i] != -1) return mem[i];
// dp[i] = dp[i-1] + dp[i-2]
const count = dfs(i - 1, mem) + dfs(i - 2, mem);
// 記錄 dp[i]
mem[i] = count;
return count;
}
/* 爬樓梯:記憶化搜尋 */
function climbingStairsDFSMem(n: number): number {
// mem[i] 記錄爬到第 i 階的方案總數,-1 代表無記錄
const mem = new Array(n + 1).fill(-1);
return dfs(n, mem);
}
/* 記憶化搜尋 */
int dfs(int i, List<int> mem) {
// 已知 dp[1] 和 dp[2] ,返回之
if (i == 1 || i == 2) return i;
// 若存在記錄 dp[i] ,則直接返回之
if (mem[i] != -1) return mem[i];
// dp[i] = dp[i-1] + dp[i-2]
int count = dfs(i - 1, mem) + dfs(i - 2, mem);
// 記錄 dp[i]
mem[i] = count;
return count;
}
/* 爬樓梯:記憶化搜尋 */
int climbingStairsDFSMem(int n) {
// mem[i] 記錄爬到第 i 階的方案總數,-1 代表無記錄
List<int> mem = List.filled(n + 1, -1);
return dfs(n, mem);
}
/* 記憶化搜尋 */
fn dfs(i: usize, mem: &mut [i32]) -> i32 {
// 已知 dp[1] 和 dp[2] ,返回之
if i == 1 || i == 2 {
return i as i32;
}
// 若存在記錄 dp[i] ,則直接返回之
if mem[i] != -1 {
return mem[i];
}
// dp[i] = dp[i-1] + dp[i-2]
let count = dfs(i - 1, mem) + dfs(i - 2, mem);
// 記錄 dp[i]
mem[i] = count;
count
}
/* 爬樓梯:記憶化搜尋 */
fn climbing_stairs_dfs_mem(n: usize) -> i32 {
// mem[i] 記錄爬到第 i 階的方案總數,-1 代表無記錄
let mut mem = vec![-1; n + 1];
dfs(n, &mut mem)
}
/* 記憶化搜尋 */
int dfs(int i, int *mem) {
// 已知 dp[1] 和 dp[2] ,返回之
if (i == 1 || i == 2)
return i;
// 若存在記錄 dp[i] ,則直接返回之
if (mem[i] != -1)
return mem[i];
// dp[i] = dp[i-1] + dp[i-2]
int count = dfs(i - 1, mem) + dfs(i - 2, mem);
// 記錄 dp[i]
mem[i] = count;
return count;
}
/* 爬樓梯:記憶化搜尋 */
int climbingStairsDFSMem(int n) {
// mem[i] 記錄爬到第 i 階的方案總數,-1 代表無記錄
int *mem = (int *)malloc((n + 1) * sizeof(int));
for (int i = 0; i <= n; i++) {
mem[i] = -1;
}
int result = dfs(n, mem);
free(mem);
return result;
}
/* 記憶化搜尋 */
fun dfs(i: Int, mem: IntArray): Int {
// 已知 dp[1] 和 dp[2] ,返回之
if (i == 1 || i == 2) return i
// 若存在記錄 dp[i] ,則直接返回之
if (mem[i] != -1) return mem[i]
// dp[i] = dp[i-1] + dp[i-2]
val count = dfs(i - 1, mem) + dfs(i - 2, mem)
// 記錄 dp[i]
mem[i] = count
return count
}
/* 爬樓梯:記憶化搜尋 */
fun climbingStairsDFSMem(n: Int): Int {
// mem[i] 記錄爬到第 i 階的方案總數,-1 代表無記錄
val mem = IntArray(n + 1)
mem.fill(-1)
return dfs(n, mem)
}
### 記憶化搜尋 ###
def dfs(i, mem)
# 已知 dp[1] 和 dp[2] ,返回之
return i if i == 1 || i == 2
# 若存在記錄 dp[i] ,則直接返回之
return mem[i] if mem[i] != -1
# dp[i] = dp[i-1] + dp[i-2]
count = dfs(i - 1, mem) + dfs(i - 2, mem)
# 記錄 dp[i]
mem[i] = count
end
### 爬樓梯:記憶化搜尋 ###
def climbing_stairs_dfs_mem(n)
# mem[i] 記錄爬到第 i 階的方案總數,-1 代表無記錄
mem = Array.new(n + 1, -1)
dfs(n, mem)
end
// 記憶化搜尋
fn dfs(i: usize, mem: []i32) i32 {
// 已知 dp[1] 和 dp[2] ,返回之
if (i == 1 or i == 2) {
return @intCast(i);
}
// 若存在記錄 dp[i] ,則直接返回之
if (mem[i] != -1) {
return mem[i];
}
// dp[i] = dp[i-1] + dp[i-2]
var count = dfs(i - 1, mem) + dfs(i - 2, mem);
// 記錄 dp[i]
mem[i] = count;
return count;
}
// 爬樓梯:記憶化搜尋
fn climbingStairsDFSMem(comptime n: usize) i32 {
// mem[i] 記錄爬到第 i 階的方案總數,-1 代表無記錄
var mem = [_]i32{ -1 } ** (n + 1);
return dfs(n, &mem);
}
視覺化執行
觀察圖 14-4 ,經過記憶化處理後,所有重疊子問題都只需計算一次,時間複雜度最佳化至 \(O(n)\) ,這是一個巨大的飛躍。
圖 14-4 記憶化搜尋對應遞迴樹
14.1.3 方法三:動態規劃¶
記憶化搜尋是一種“從頂至底”的方法:我們從原問題(根節點)開始,遞迴地將較大子問題分解為較小子問題,直至解已知的最小子問題(葉節點)。之後,透過回溯逐層收集子問題的解,構建出原問題的解。
與之相反,動態規劃是一種“從底至頂”的方法:從最小子問題的解開始,迭代地構建更大子問題的解,直至得到原問題的解。
由於動態規劃不包含回溯過程,因此只需使用迴圈迭代實現,無須使用遞迴。在以下程式碼中,我們初始化一個陣列 dp
來儲存子問題的解,它起到了與記憶化搜尋中陣列 mem
相同的記錄作用:
/* 爬樓梯:動態規劃 */
func climbingStairsDP(n: Int) -> Int {
if n == 1 || n == 2 {
return n
}
// 初始化 dp 表,用於儲存子問題的解
var dp = Array(repeating: 0, count: n + 1)
// 初始狀態:預設最小子問題的解
dp[1] = 1
dp[2] = 2
// 狀態轉移:從較小子問題逐步求解較大子問題
for i in 3 ... n {
dp[i] = dp[i - 1] + dp[i - 2]
}
return dp[n]
}
/* 爬樓梯:動態規劃 */
function climbingStairsDP(n) {
if (n === 1 || n === 2) return n;
// 初始化 dp 表,用於儲存子問題的解
const dp = new Array(n + 1).fill(-1);
// 初始狀態:預設最小子問題的解
dp[1] = 1;
dp[2] = 2;
// 狀態轉移:從較小子問題逐步求解較大子問題
for (let i = 3; i <= n; i++) {
dp[i] = dp[i - 1] + dp[i - 2];
}
return dp[n];
}
/* 爬樓梯:動態規劃 */
function climbingStairsDP(n: number): number {
if (n === 1 || n === 2) return n;
// 初始化 dp 表,用於儲存子問題的解
const dp = new Array(n + 1).fill(-1);
// 初始狀態:預設最小子問題的解
dp[1] = 1;
dp[2] = 2;
// 狀態轉移:從較小子問題逐步求解較大子問題
for (let i = 3; i <= n; i++) {
dp[i] = dp[i - 1] + dp[i - 2];
}
return dp[n];
}
/* 爬樓梯:動態規劃 */
int climbingStairsDP(int n) {
if (n == 1 || n == 2) return n;
// 初始化 dp 表,用於儲存子問題的解
List<int> dp = List.filled(n + 1, 0);
// 初始狀態:預設最小子問題的解
dp[1] = 1;
dp[2] = 2;
// 狀態轉移:從較小子問題逐步求解較大子問題
for (int i = 3; i <= n; i++) {
dp[i] = dp[i - 1] + dp[i - 2];
}
return dp[n];
}
/* 爬樓梯:動態規劃 */
fn climbing_stairs_dp(n: usize) -> i32 {
// 已知 dp[1] 和 dp[2] ,返回之
if n == 1 || n == 2 {
return n as i32;
}
// 初始化 dp 表,用於儲存子問題的解
let mut dp = vec![-1; n + 1];
// 初始狀態:預設最小子問題的解
dp[1] = 1;
dp[2] = 2;
// 狀態轉移:從較小子問題逐步求解較大子問題
for i in 3..=n {
dp[i] = dp[i - 1] + dp[i - 2];
}
dp[n]
}
/* 爬樓梯:動態規劃 */
int climbingStairsDP(int n) {
if (n == 1 || n == 2)
return n;
// 初始化 dp 表,用於儲存子問題的解
int *dp = (int *)malloc((n + 1) * sizeof(int));
// 初始狀態:預設最小子問題的解
dp[1] = 1;
dp[2] = 2;
// 狀態轉移:從較小子問題逐步求解較大子問題
for (int i = 3; i <= n; i++) {
dp[i] = dp[i - 1] + dp[i - 2];
}
int result = dp[n];
free(dp);
return result;
}
// 爬樓梯:動態規劃
fn climbingStairsDP(comptime n: usize) i32 {
// 已知 dp[1] 和 dp[2] ,返回之
if (n == 1 or n == 2) {
return @intCast(n);
}
// 初始化 dp 表,用於儲存子問題的解
var dp = [_]i32{-1} ** (n + 1);
// 初始狀態:預設最小子問題的解
dp[1] = 1;
dp[2] = 2;
// 狀態轉移:從較小子問題逐步求解較大子問題
for (3..n + 1) |i| {
dp[i] = dp[i - 1] + dp[i - 2];
}
return dp[n];
}
視覺化執行
圖 14-5 模擬了以上程式碼的執行過程。
圖 14-5 爬樓梯的動態規劃過程
與回溯演算法一樣,動態規劃也使用“狀態”概念來表示問題求解的特定階段,每個狀態都對應一個子問題以及相應的區域性最優解。例如,爬樓梯問題的狀態定義為當前所在樓梯階數 \(i\) 。
根據以上內容,我們可以總結出動態規劃的常用術語。
- 將陣列
dp
稱為 dp 表,\(dp[i]\) 表示狀態 \(i\) 對應子問題的解。 - 將最小子問題對應的狀態(第 \(1\) 階和第 \(2\) 階樓梯)稱為初始狀態。
- 將遞推公式 \(dp[i] = dp[i-1] + dp[i-2]\) 稱為狀態轉移方程。
14.1.4 空間最佳化¶
細心的讀者可能發現了,由於 \(dp[i]\) 只與 \(dp[i-1]\) 和 \(dp[i-2]\) 有關,因此我們無須使用一個陣列 dp
來儲存所有子問題的解,而只需兩個變數滾動前進即可。程式碼如下所示:
視覺化執行
觀察以上程式碼,由於省去了陣列 dp
佔用的空間,因此空間複雜度從 \(O(n)\) 降至 \(O(1)\) 。
在動態規劃問題中,當前狀態往往僅與前面有限個狀態有關,這時我們可以只保留必要的狀態,透過“降維”來節省記憶體空間。這種空間最佳化技巧被稱為“滾動變數”或“滾動陣列”。