本書通過分析最優(yōu)化理論和算法與機器學習的關系:最優(yōu)化理論和算法促進了機器學習的發(fā)展,同時機器學習對最優(yōu)化的理論和求解方法也帶來了新的研究方向和研究方法。我們針對組合優(yōu)化問題,特別是NP問題,提出機器學習的求解方法,此類方法通過一些學習方法,結(jié)合傳統(tǒng)算法,給出了一套求解組合優(yōu)化問題的機器學習理論方法。
本書共分為六章,第一章介紹組合優(yōu)化及組合優(yōu)化問題的求解方法。第二章研究機器學習方法,并分析用部分機器學習方法帶來的組合優(yōu)化求解的啟示。第三章介紹現(xiàn)階段可以常用于求解組合優(yōu)化問題的機器學習方法,循環(huán)神經(jīng)網(wǎng)絡、長短期記憶模型、編碼和解碼模型等等。第四章介紹求解組合優(yōu)化問題的深度網(wǎng)絡模型和算法,詳盡介紹強化學習求解組合優(yōu)化問題的模型和算法。第五章重點介紹圖像識別中存在的組合優(yōu)化問題的機器學習求解方法,求解點集匹配問題,圖匹配問題以及圖像對齊問題等等。第六章對比傳統(tǒng)的組合優(yōu)化問題算法的復雜性分析,給出求解組合優(yōu)化問題的算法復雜性理論分析。
更多科學出版社服務,請掃碼獲取。
目錄
前言
第1章 組合優(yōu)化概述 1
1.1 組合優(yōu)化的概念 1
1.2 組合優(yōu)化與計算機數(shù)學 3
1.2.1 什么是計算機數(shù)學? 3
1.2.2 組合優(yōu)化與計算機數(shù)學之間的關系 4
1.2.3 計算機科學中最重要的三十二個算法 4
1.3 組合優(yōu)化問題的研究方法 9
1.3.1 組合優(yōu)化問題的一般模型與求解算法 9
1.3.2 經(jīng)典的組合優(yōu)化問題與求解算法 10
1.3.3 組合優(yōu)化問題的機器學習求解算法 23
1.4 本章小結(jié) 26
第2章 機器學習與組合優(yōu)化問題 27
2.1 機器學習概述 27
2.1.1 機器學習發(fā)展歷程 28
2.1.2 機器學習分類 31
2.1.3 深度學習 32
2.1.4 深度強化學習 35
2.2 圍棋人工智能方法對求解組合優(yōu)化問題的啟示 41
2.2.1 AlphaGo 42
2.2.2 AlphaGo Zero 48
2.2.3 AlphaGo & AlphaGo Zero與組合優(yōu)化問題 50
2.3 本章小結(jié) 51
第3章 從序列輸入到序列輸出的機器學習網(wǎng)絡模型和算法 52
3.1 循環(huán)神經(jīng)網(wǎng)絡 52
3.1.1 前向傳播過程 54
3.1.2 后向傳播過程 56
3.2 長短期記憶模型 58
3.3 雙向循環(huán)神經(jīng)網(wǎng)絡 62
3.4 編碼-解碼模型 65
3.5 注意力機制模型 67
3.6 本章小結(jié) 73
第4章 組合優(yōu)化的深度學習方法 74
4.1 基于有監(jiān)督學習的求解方法 74
4.1.1 指向型網(wǎng)絡 74
4.1.2 基于目標函數(shù)訓練的求解算法 78
4.2 基于強化學習的求解方法 79
4.2.1 神經(jīng)組合優(yōu)化模型的求解方法 80
4.2.2 動態(tài)輸入的組合優(yōu)化模型的求解方法 86
4.2.3 圖結(jié)構(gòu)問題的組合優(yōu)化模型的求解方法 91
4.3 本章小結(jié) 98
第5章 圖像識別中的組合優(yōu)化問題的求解方法 100
5.1 多指向型網(wǎng)絡求解點集匹配問題 100
5.1.1 點集匹配問題 100
5.1.2 多標簽分類 102
5.1.3 算法結(jié)構(gòu) 104
5.1.4 實驗結(jié)果及分析 107
5.2 基于強化學習的圖匹配問題的求解方法 113
5.2.1 圖匹配問題 114
5.2.2 求解圖匹配問題的深度強化學習求解方法 116
5.2.3 實驗結(jié)果及分析 124
5.3 基于卷積神經(jīng)網(wǎng)絡的圖像對齊問題的求解方法 131
5.3.1 圖像對齊問題 132
5.3.2 圖像對齊問題的深度學習求解方法 134
5.3.3 基于關鍵點對齊的圖像匹配算法 138
5.3.4 基于關鍵點對齊算法在指紋識別中的應用 140
5.4 本章小結(jié) 151
第6章 機器學習算法的復雜性理論 153
6.1 算法復雜性理論 153
6.2 基于線下學習和線上運行的學習類算法的復雜性度量 156
6.2.1 深度學習類線下訓練算法的復雜度 158
6.2.2 學習類算法的時間復雜度函數(shù) 163
6.3 本章小結(jié) 167
6.4 總結(jié)與展望 168
參考文獻 170