深度學(xué)習實(shí)踐：基于Caffe的解析簡(jiǎn)介，目錄書(shū)摘

編輯推薦:

內容簡(jiǎn)介:本書(shū)主要介紹Caffe的技術(shù)原理和一些高級使用技巧，首先介紹深度學(xué)習的趨勢和業(yè)內動(dòng)態(tài)，然后介紹Caffe的基礎知識。在理解了Caffe算法的基礎上，介紹Caffe的技術(shù)原理和特點(diǎn)，包括數學(xué)知識和設計知識。*后介紹Caffe深度學(xué)習多任務(wù)網(wǎng)絡(luò )。本書(shū)將實(shí)踐和現有系統進(jìn)行無(wú)縫對接，并詳述了各種調參技巧。

作者簡(jiǎn)介:

目錄:前言
第1章　深度學(xué)習簡(jiǎn)介 1
1.1　深度學(xué)習的歷史 1
1.2　深度學(xué)習工具簡(jiǎn)介 4
1.3　深度學(xué)習的未來(lái)趨勢 12
第2章　搭建你的Caffe武器庫 13
2.1　硬件選型 13
2.2　Caffe在Windows下的安裝 14
2.3　Caffe在Linux下的安裝 16
2.3.1　Linux安裝 16
2.3.2　Nvidia CUDA Toolkit的安裝（*.deb方法） 17
2.3.3　Caffe的安裝和測試 20
2.4　OpenCV的安裝和編譯 23
2.4.1　OpenCV的下載 23
2.4.2　配置環(huán)境變量 24
2.5　Boost庫的安裝和編譯 27
2.6　Python相關(guān)庫的安裝 31
2.7　MATLAB接口的配置 33
2.8　其他庫的安裝 44
2.8.1　LMDB的編譯與安裝 44
2.8.2　LevelDB的編譯與安裝 51
2.8.3　glog的編譯與安裝 57
2.8.4　安裝gflags 63
第3章　Caffe的簡(jiǎn)單訓練 69
3.1　Caffe轉化數據工具的使用介紹 69
3.1.1　命令參數介紹 69
3.1.2　生成文件列表 70
3.1.3　使用的Linux命令簡(jiǎn)介 70
3.1.4　生成文件結果 71
3.1.5　圖片參數組詳解 71
3.2　Caffe提取特征的工具使用說(shuō)明 72
3.3　Caffe訓練需要的幾個(gè)部件 73
3.3.1　網(wǎng)絡(luò )proto文件的編寫(xiě) 73
3.3.2　Solver配置 74
3.3.3　訓練腳本的編寫(xiě) 76
3.3.4　訓練log解析 76
3.4　Caffe簡(jiǎn)單訓練分類(lèi)任務(wù) 79
3.5　測試訓練結果 86
3.6　使用訓練好的模型進(jìn)行預測 87
第4章　認識深度學(xué)習網(wǎng)絡(luò )中的層 97
4.1　卷積層的作用與類(lèi)別 97
4.1.1　卷積層的作用 97
4.1.2　卷積分類(lèi) 98
4.2　激活層的作用與類(lèi)別 99
4.2.1　激活函數的定義及相關(guān)概念 99
4.2.2　激活函數的類(lèi)別 101
4.3　池化層的作用與類(lèi)別 101
4.3.1　池化層的歷史 101
4.3.2　池化層的作用 102
4.3.3　池化層分類(lèi) 103
4.4　全連接層的作用與類(lèi)別 105
4.5　dropout層的作用 106
4.6　損失函數層 106
第5章　Caffe的框架設計 110
5.1　Caffe中CPU和GPU結構的融合 110
5.1.1　SyncedMemory函數及其功能 110
5.1.2　SyncedMemory類(lèi)的作用 112
5.2　Caffe訓練時(shí)層的各個(gè)成員函數的調用順序 112
5.3　Caffe網(wǎng)絡(luò )構建函數的解析 115
5.4　Caffe層如何使用proto文件實(shí)現反射機制 116
5.4.1　工廠(chǎng)模式 116
5.4.2　層的創(chuàng )建 118
5.5　Caffe的調用流程圖及函數順序導視 122
5.6　Caffe框架使用的編碼思想 125
5.6.1　Caffe的總體結構 125
5.6.2　Caffe數據存儲設計 128
第6章　基礎數學(xué)知識 130
6.1　卷積層的數學(xué)公式及求導 130
6.2　激活層的數學(xué)公式圖像及求導 132
6.3　三種池化層的數學(xué)公式及反向計算 134
6.4　全連接層的數學(xué)公式及求導 135
6.4.1　全連接層的前向計算及公式推導 135
6.4.2　全連接層的反向傳播及公式推導 136
6.5　反卷積層的數學(xué)公式及求導 137
第7章　卷積層和池化層的使用 139
7.1　卷積層參數初始化介紹 139
7.2　池化層的物理意義 141
7.3　卷積層和池化層輸出計算及參數說(shuō)明 141
7.4　實(shí)踐：在Caffe框架下用Prototxt定義卷積層和池化層 142
7.4.1　卷積層參數的編寫(xiě) 142
7.4.2　必須設置的參數 143
7.4.3　其他可選的設置參數 143
7.4.4　卷積參數編寫(xiě)具體示例 144
7.4.5　卷積參數編寫(xiě)小建議 145
第8章　激活函數的介紹 146
8.1　用ReLU解決sigmoid的缺陷 146
8.2　ReLU及其變種的對比 148
8.3　實(shí)踐：在Caffe框架下用Prototxt定義激活函數 150
8.3.1　ReLU 150
8.3.2　PReLU 150
8.3.3　Sigmoid 151
第9章　損失函數 152
9.1　contrastive_loss函數和對應層的介紹和使用場(chǎng)景 152
9.2　multinomial_logistic_loss函數和對應層的介紹和使用說(shuō)明 154
9.3　sigmoid_cross_entropy函數和對應層的介紹和使用說(shuō)明 155
9.4　softmax_loss函數和對應層的介紹和使用說(shuō)明 158
9.5　euclidean_loss函數和對應層的介紹和使用說(shuō)明 161
9.6　hinge_loss函數和對應層的介紹和使用說(shuō)明 162
9.7　infogain_loss函數和對應層的介紹和使用說(shuō)明 163
9.8　TripletLoss的添加及其使用 165
9.8.1　TripletLoss的思想 165
9.8.2　TripletLoss梯度推導 166
9.8.3　新增加TripletLossLayer 167
9.9　Coupled Cluster Loss的添加及其使用 176
9.9.1　增加loss層 176
9.9.2　實(shí)現具體示例 177
第10章　Batch Normalize層的使用 194
10.1　batch_normalize層的原理和作用 194
10.2　batch_normalize層的優(yōu)勢 196
10.3　常見(jiàn)網(wǎng)絡(luò )結構batch_normalize層的位置 197
10.4　proto的具體寫(xiě)法 202
10.5　其他歸一化層的介紹 204
第11章　回歸網(wǎng)絡(luò )的構建 205
11.1　如何生成回歸網(wǎng)絡(luò )訓練數據 205
11.2　回歸任務(wù)和分類(lèi)任務(wù)的異同點(diǎn) 206
11.3　回歸網(wǎng)絡(luò )收斂性的判斷 207
11.4　回歸任務(wù)與級聯(lián)模型 210
第12章　多任務(wù)網(wǎng)絡(luò )的構建 214
12.1　多任務(wù)歷史 214
12.2　多任務(wù)網(wǎng)絡(luò )的數據生成 216
12.3　如何簡(jiǎn)單建立多任務(wù) 216
12.4　近年的多任務(wù)深度學(xué)習網(wǎng)絡(luò ) 217
12.5　多任務(wù)中通用指導性調參和網(wǎng)絡(luò )構建結論 221
12.5.1　如何避免出現多任務(wù)后性能下降的情況 221
12.5.2　怎樣