深度學(xué)習導論及案例分析簡(jiǎn)介，目錄書(shū)摘

關(guān)于深度學(xué)習的導論性著(zhù)作，也是了解深度學(xué)習的入門(mén)之書(shū)。
詳述了深度學(xué)習的9大重要模型及其學(xué)習算法、變種模型和混雜模型，內容翔實(shí)，具有提綱挈領(lǐng)的指導意義。
基于Matlab、Python和C++相關(guān)的程序案例介紹深度學(xué)習模型，有助于讀者全面了解深度學(xué)習模型和算法的實(shí)現途徑

這是一部關(guān)于深度學(xué)習的導論性著(zhù)作，也是了解深度學(xué)習的入門(mén)書(shū)籍。全書(shū)涵蓋了深度學(xué)習的發(fā)展歷史、特點(diǎn)優(yōu)勢，包括各種重要的模型、算法及應用，對讀者把握深度學(xué)習的基本脈絡(luò )和未來(lái)趨勢，具有提綱挈領(lǐng)的指導意義。
深度學(xué)習是近年來(lái)在神經(jīng)網(wǎng)絡(luò )發(fā)展史上掀起的一波新浪潮，是機器學(xué)習的一大熱點(diǎn)方向，是實(shí)現人工智能的一種強大技術(shù)，有關(guān)成果早已震撼了學(xué)術(shù)界和工業(yè)界。隨著(zhù)AlphaGo戰勝人類(lèi)的圍棋冠軍，深度學(xué)習又受到了空前絕*的爆炸性關(guān)注。
有興趣的讀者可以從本書(shū)開(kāi)始，逐步揭開(kāi)深度學(xué)習的神秘面紗，窺探其中的奧妙所在。
本書(shū)具有如下特色
內容布局注重深入淺出、引用文獻豐富，方便讀者學(xué)習和鉆研。
試圖糾正許多讀者對深度學(xué)習的一些錯誤理解，比如認為多層感知器不是深度學(xué)習模型，認為自編碼器能夠直接用來(lái)進(jìn)行手寫(xiě)字符識別，認為受限玻耳茲曼機也是嚴格意義上的深度學(xué)習模型，等等。
提供了許多深度學(xué)習的基本案例，涉及Matlab、Python和C++常用語(yǔ)言，以及Theano和Caffe等開(kāi)源庫，有助于讀者通過(guò)不同語(yǔ)言的分析案例，全面了解深度學(xué)習模型和算法的實(shí)現途徑。

深度學(xué)習是近年來(lái)在神經(jīng)網(wǎng)絡(luò )發(fā)展史上掀起的一波新浪潮，是機器學(xué)習的一大熱點(diǎn)方向，因在手寫(xiě)字符識別、維數約簡(jiǎn)、圖像理解和語(yǔ)音處理等方面取得巨大進(jìn)展，所以很快受到了學(xué)術(shù)界和工業(yè)界的高度關(guān)注。在本質(zhì)上，深度學(xué)習就是對具有深層結構的網(wǎng)絡(luò )進(jìn)行有效學(xué)習的各種方法。
本書(shū)不僅介紹了深度學(xué)習的起源和發(fā)展、強調了深層網(wǎng)絡(luò )的特點(diǎn)和優(yōu)勢，說(shuō)明了判別模型和生成模型的相關(guān)概念，還詳述了深度學(xué)習的9種重要模型及其學(xué)習算法、變種模型和混雜模型，包括受限玻耳茲曼機、自編碼器、深層信念網(wǎng)絡(luò )、深層玻耳茲曼機、和積網(wǎng)絡(luò )、卷積神經(jīng)網(wǎng)絡(luò )、深層堆疊網(wǎng)絡(luò )、循環(huán)神經(jīng)網(wǎng)絡(luò )和長(cháng)短時(shí)記憶網(wǎng)絡(luò )，以及它們在圖像處理、語(yǔ)音處理和自然語(yǔ)言處理等領(lǐng)域的廣泛應用。同時(shí)分析了一系列深度學(xué)習的基本案例。
本書(shū)每個(gè)案例包括模塊簡(jiǎn)介、運行過(guò)程、代碼分析和使用技巧4個(gè)部分，層次結構清晰，利于讀者的選擇和學(xué)習并在應用中拓展思路。涉及的編程語(yǔ)言有3種：Matlab、Python和C++。其中，很多深度學(xué)習程序是用Matlab編寫(xiě)的，可以直接運行；如果使用Python語(yǔ)言編寫(xiě)深度學(xué)習程序，則可以調用Theano開(kāi)源庫；若使用C++語(yǔ)言，則可以調用Caffe開(kāi)源庫。  

李玉鑑（ 鑒 ）　北京工業(yè)大學(xué)教授，博士生導師。華中科技大學(xué)本科畢業(yè)，中國科學(xué)院數學(xué)研究所碩士畢業(yè)，中國科學(xué)院半導體研究所博士畢業(yè)，北京郵電大學(xué)博士后出站。曾在中國科學(xué)院生物物理所工作，對意識的本質(zhì)問(wèn)題關(guān)注過(guò)多年，并在《21世紀100個(gè)交叉科學(xué)難題》上發(fā)表《揭開(kāi)意識的奧秘》一文，提出了解決意識問(wèn)題的認知相對論綱領(lǐng)，對腦計劃和類(lèi)腦研究具有宏觀(guān)指導意義。長(cháng)期圍繞人工智能的核心目標，在神經(jīng)網(wǎng)絡(luò )、自然語(yǔ)言處理、模式識別和機器學(xué)習等領(lǐng)域開(kāi)展教學(xué)、科研工作，發(fā)表國內外期刊、會(huì )議論文數十篇，是本書(shū)的*一作者。

前言
第一部分 基礎理論
目 錄
第1章概述 2
1.1深度學(xué)習的起源和發(fā)展 2
1.2深層網(wǎng)絡(luò )的特點(diǎn)和優(yōu)勢 4
1.3深度學(xué)習的模型和算法 7
第2章預備知識 9
2.1矩陣運算 9
2.2概率論的基本概念 11
2.2.1概率的定義和性質(zhì) l1
2.2.2 隨機變量和概率密度
函數 l2
2.2.3期望和方差． 13
2.3信息論的基本概念． 14
2.4概率圖模型的基本概念 15
2.5概率有向圖模型 16
2.6概率無(wú)向圖模型 20
2.7部分有向無(wú)圈圖模型 22
2.8條件隨機場(chǎng) 24
2.9馬爾可夫鏈 26
2.10概率圖模型的學(xué)習 28
2.11概率圖模型的推理 29
2.12馬爾可夫鏈蒙特卡羅方法 31
2.13玻耳茲曼機的學(xué)習 32
2.14通用反向傳播算法 35
2.15通用逼近定理 37
第3章受限玻耳茲曼機 38
3.1 受限玻耳茲曼機的標準
模型 38
3.2受限玻耳茲曼機的學(xué)習算法 40
3.3 受限玻耳茲曼機的變種模型 44
第4章 自編碼器 48
4.1 自編碼器的標準模型 48
4.2 自編碼器的學(xué)習算法 50
4.3 自編碼器的變種模型 53
第5章深層信念網(wǎng)絡(luò ) 57
5.1 深層信念網(wǎng)絡(luò )的標準模型 57
5.2深層信念網(wǎng)絡(luò )的生成學(xué)習
算法 60
5.3深層信念網(wǎng)絡(luò )的判別學(xué)習算法 62
5.4深層信念網(wǎng)絡(luò )的變種模型 63
第6章深層玻耳茲曼機 64
6.1 深層玻耳茲曼機的標準模型 64
6.2深層玻耳茲曼機的生成學(xué)習
算法 65
6.3 深層玻耳茲曼機的判別學(xué)習
算法 69
6.4深層玻耳茲曼機的變種模型 69
第7章和積網(wǎng)絡(luò ) 72
7.1 和積網(wǎng)絡(luò )的標準模型 72
7.2和積網(wǎng)絡(luò )的學(xué)習算法 74
7.3和積網(wǎng)絡(luò )的變種模型 77
第8章卷積神經(jīng)網(wǎng)絡(luò ) 78
8.1卷積神經(jīng)網(wǎng)絡(luò )的標準模型 78
8.2卷積神經(jīng)網(wǎng)絡(luò )的學(xué)習算法 81
8.3卷積神經(jīng)網(wǎng)絡(luò )的變種模型 83
第9章深層堆疊網(wǎng)絡(luò ) 一86
9.1 深層堆疊網(wǎng)絡(luò )的標準模型 86
9.2深層堆疊網(wǎng)絡(luò )的學(xué)習算法 87
9.3深層堆疊網(wǎng)絡(luò )的變種模型 88
第1 0章循環(huán)神經(jīng)網(wǎng)絡(luò ) 89
10.1循環(huán)神經(jīng)網(wǎng)絡(luò )的標準模型 89
10.2循環(huán)神經(jīng)網(wǎng)絡(luò )的學(xué)習算法 91
10.3循環(huán)神經(jīng)網(wǎng)絡(luò )的變種模型 92
第1 1章長(cháng)短時(shí)記憶網(wǎng)絡(luò ) 94
11.1長(cháng)短時(shí)記憶網(wǎng)絡(luò )的標準模型 94
11.2長(cháng)短時(shí)記憶網(wǎng)絡(luò )的學(xué)習算法 96
11.3長(cháng)短時(shí)記憶網(wǎng)絡(luò )的變種模型 98
第12章深度學(xué)習的混合模型、
廣泛應用和開(kāi)發(fā)工具 102
12.1深度學(xué)習的}昆合模型 102
12.2深度學(xué)習的廣泛應用 104
12.2.1 圖像和視頻處理 104
12.2.2語(yǔ)音和音頻處理 106
12.2.3 自然語(yǔ)言處理 108
12.2.4其他應用 109
12.3深度學(xué)習的開(kāi)發(fā)工具 110
第1 3章深度學(xué)習的總結、
批評和展望 114
第二部分案例分析
第14章實(shí)驗背景 一118
14.1運行環(huán)境 118
14.2實(shí)驗數據 118
14.3代碼工具 120
第1 5章 自編碼器降維案例 一121
15.1 自編碼器降維程序的模塊
簡(jiǎn)介 121
15.2 自編碼器降維程序的運行
過(guò)程 122
15.3 自編碼器降維程序的代碼
分析 127
15.3.1 關(guān)鍵模塊或函數的主要
功能 127
15.3.2主要代碼分析及注釋 128
15.4 自編碼器降維程序的使用
技巧 138
第1 6章深層感知器識別案例 139
16.1 深層感知器識別程序的模塊
簡(jiǎn)介 139
16.2深層感知器識別程序的運行
過(guò)程 140
16.3深層感知器識別程序的代碼
分析 143
16.3.1 關(guān)鍵模塊或函數的主要
功能 143
16.3.2主要代碼分析及注釋 l43
16.4深層感知器識別程序的使用
技巧 148
第1 7章深層信念網(wǎng)絡(luò )生成
案例 149
17.1 深層信念網(wǎng)絡(luò )生成程序的模塊
簡(jiǎn)介 149
17.2深層信念網(wǎng)絡(luò )生成程序的運行
過(guò)程 150
17.3深層信念網(wǎng)絡(luò )生成程序的代碼
分析 153
第18章深層信念網(wǎng)絡(luò )分類(lèi)案例163
第19章深層玻耳茲曼機識別案例202
第20章卷積神經(jīng)網(wǎng)絡(luò )識別案例221
第21章循環(huán)神經(jīng)網(wǎng)絡(luò )填充案例236
第22章長(cháng)短時(shí)憶網(wǎng)絡(luò )分類(lèi)案例245
附錄263
參考文獻269