PaddlePaddle深度學(xué)習實(shí)戰簡(jiǎn)介，目錄書(shū)摘

編輯推薦:　?。?）百度旗下“深度學(xué)習技術(shù)及應用國家工程實(shí)驗室”、百度技術(shù)學(xué)院聯(lián)合北航人工智能專(zhuān)家共同撰寫(xiě)，行業(yè)實(shí)踐與學(xué)術(shù)理論兼顧
　?。?）李德毅院士、百度公司總裁張亞勤博士、百度公司高級副總裁/AI技術(shù)平臺體系總負責人王海峰、北京航空航天大學(xué)計算機學(xué)院教授/博士生導師呂衛鋒 、百度技術(shù)委員會(huì )理事長(cháng)/百度技術(shù)學(xué)院院長(cháng)陳尚義聯(lián)袂推薦

內容簡(jiǎn)介:　　本書(shū)采用由簡(jiǎn)入繁的原則撰寫(xiě)而成。我們希望本書(shū)能成為一名能帶領(lǐng)讀者領(lǐng)略PaddlePaddle精妙的精神導游。從較為簡(jiǎn)單的線(xiàn)性回歸、邏輯回歸到較為復雜的RNN數字識別、個(gè)性化推薦、云上部署等，本書(shū)結合若干實(shí)例，系統地介紹了PaddlePaddle的使用特點(diǎn)。教會(huì )讀者如何使用框架就像教會(huì )了讀者一套外功拳法。然而本書(shū)不僅關(guān)注框架本身的細節用法，還非常注重基礎知識和理論，目的是教會(huì )讀者內功心法。書(shū)中既詳細描述了神經(jīng)網(wǎng)絡(luò )的各個(gè)細節，也深入講解了算法性能優(yōu)化的思路和技巧，旨在幫助讀者深入理解深度學(xué)習的精髓。本書(shū)共分為10章，每一章都包含理論介紹和對應的代碼實(shí)現。

作者簡(jiǎn)介:　　劉祥龍
　　北航計算機學(xué)院、軟件開(kāi)發(fā)環(huán)境國家重點(diǎn)實(shí)驗室副教授。主要研究視覺(jué)計算、深度學(xué)習、群體智能等，在國際上較系統地研究了多模式哈希和互補多哈希表檢索方法。近年來(lái)，參與“核高基”國家重大專(zhuān)項、國家自然科學(xué)基金重大專(zhuān)項等多個(gè)國家課題。發(fā)表CVPR、ICCV、AAAI、IJCAI、IEEETIP等人工智能、計算機視覺(jué)領(lǐng)域國際/知名會(huì )議和期刊論文40余篇。擔任SCI期刊FCS青年副主編，人工智能/多媒體會(huì )議ACMMM、AAAI和PCM等多個(gè)知名國際會(huì )議的程序委員會(huì )委員，以及IEEETIP、TNNLS、TMM等十余個(gè)國際知名期刊和會(huì )議審稿人。
　　楊晴虹
　　北航副教授，高級工程師。北航博士，美國南康涅狄格州立大學(xué)圖書(shū)信息科學(xué)訪(fǎng)問(wèn)學(xué)者，美國耶魯大學(xué)技術(shù)創(chuàng )新實(shí)驗室數據分析專(zhuān)家。發(fā)表國際論文幾十篇，主要研究領(lǐng)域有機器學(xué)習、知識挖掘、大數據分析、項目管理和科研管理等。在機器學(xué)習、深度學(xué)習、神經(jīng)網(wǎng)絡(luò )等領(lǐng)域有豐富的實(shí)踐經(jīng)驗，曾主導和參與多個(gè)相關(guān)的項目并取得成功。
　　譚中意
　　百度研發(fā)工程師，負責百度開(kāi)源的整體推進(jìn)工作，有近20年的開(kāi)發(fā)和運營(yíng)經(jīng)驗。在百度多個(gè)部門(mén)工作過(guò)，現負責以平臺化/開(kāi)源的方式提升百度內部整體的研發(fā)效率，并包括組織開(kāi)源技術(shù)委員會(huì )，對百度對外的開(kāi)源進(jìn)行整體的推動(dòng)工作。中國開(kāi)源推進(jìn)聯(lián)盟（COPU）副秘書(shū)長(cháng)。
　　蔣曉琳
　　百度公司技術(shù)管理部高級工程師，之前任職于中國信息通信研究院。曾參與主導超過(guò)30余項國家/行業(yè)標準，以及多項國際標準。在人工智能、云計算、大數據等領(lǐng)域參與申報和管理的國家重大專(zhuān)項達10余個(gè)。
　　白浩杰
　　北航特聘講師，美國佛羅里達國際大學(xué)高性能數據實(shí)驗室訪(fǎng)問(wèn)學(xué)者，致力于移動(dòng)對象數據庫、數據可視化、機器學(xué)習、深度學(xué)習等方向的研究。徑點(diǎn)科技有限公司高級工程師，尚硅谷IT教育前端教學(xué)總監。

目錄:CONTENTS
目錄
序
前言
致謝
第1章數學(xué)基礎與Python庫1
1.1Python是進(jìn)行人工智能編程的
主要語(yǔ)言1
1.2數學(xué)基礎4
1.2.1線(xiàn)性代數基礎4
1.2.2微積分基礎8
1.3Python庫的操作17
1.3.1numpy操作17
1.3.2matplotlib操作23
本章小結27
第2章深度學(xué)習概論與PaddlePaddle入門(mén)28
2.1人工智能、機器學(xué)習與深度學(xué)習29
2.1.1人工智能30
2.1.2機器學(xué)習30
2.1.3深度學(xué)習31
2.2深度學(xué)習的發(fā)展歷程32
2.2.1神經(jīng)網(wǎng)絡(luò )的第一次高潮32
2.2.2神經(jīng)網(wǎng)絡(luò )的第一次寒冬33
2.2.3神經(jīng)網(wǎng)絡(luò )的第二次高潮34
2.2.4神經(jīng)網(wǎng)絡(luò )的第二次寒冬35
2.2.5深度學(xué)習的來(lái)臨35
2.2.6深度學(xué)習崛起的時(shí)代背景36
2.3深度學(xué)習的應用場(chǎng)景36
2.3.1圖像與視覺(jué)37
2.3.2語(yǔ)音識別37
2.3.3自然語(yǔ)言處理38
2.3.4個(gè)性化推薦38
2.4常見(jiàn)的深度學(xué)習網(wǎng)絡(luò )結構39
2.4.1全連接網(wǎng)絡(luò )結構39
2.4.2卷積神經(jīng)網(wǎng)絡(luò )40
2.4.3循環(huán)神經(jīng)網(wǎng)絡(luò )41
2.5機器學(xué)習回顧41
2.5.1線(xiàn)性回歸的基本概念42
2.5.2數據處理44
2.5.3模型概覽45
2.5.4效果展示46
2.6深度學(xué)習框架簡(jiǎn)介47
2.6.1深度學(xué)習框架的作用47
2.6.2常見(jiàn)的深度學(xué)習框架48
2.6.3PaddlePaddle簡(jiǎn)介49
2.6.4PaddlePaddle使用49
2.7PaddlePaddle實(shí)現51
本章小結60
第3章深度學(xué)習的單層網(wǎng)絡(luò )61
3.1Logistic回歸模型62
3.1.1Logistic回歸概述62
3.1.2損失函數64
3.1.3Logistic回歸的梯度下降66
3.2實(shí)現Logistic回歸模型71
3.2.1Python版本72
3.2.2PaddlePaddle版本81
本章小結90
第4章淺層神經(jīng)網(wǎng)絡(luò )92
4.1神經(jīng)網(wǎng)絡(luò )92
4.1.1神經(jīng)網(wǎng)絡(luò )的定義及其結構92
4.1.2神經(jīng)網(wǎng)絡(luò )的計算94
4.2BP算法100
4.2.1邏輯回歸與BP算法101
4.2.2單樣本雙層神經(jīng)網(wǎng)絡(luò )的BP算法101
4.2.3多個(gè)樣本神經(jīng)網(wǎng)絡(luò )BP算法105
4.3BP算法實(shí)踐108
4.3.1Python版本109
4.3.2PaddlePaddle版本116
本章小結122
第5章深層神經(jīng)網(wǎng)絡(luò )123
5.1深層網(wǎng)絡(luò )介紹123
5.1.1深度影響算法能力124
5.1.2網(wǎng)絡(luò )演化過(guò)程與常用符號125
5.2傳播過(guò)程127
5.2.1神經(jīng)網(wǎng)絡(luò )算法核心思想127
5.2.2深層網(wǎng)絡(luò )前向傳播過(guò)程128
5.2.3深層網(wǎng)絡(luò )后向傳播過(guò)程129
5.2.4傳播過(guò)程總結130
5.3網(wǎng)絡(luò )的參數132
5.4代碼實(shí)現133
5.4.1Python版本133
5.4.2PaddlePaddle版本136
本章小結140
第6章卷積神經(jīng)網(wǎng)絡(luò )141
6.1圖像分類(lèi)問(wèn)題描述141
6.2卷積神經(jīng)網(wǎng)絡(luò )介紹142
6.2.1卷積層142
6.2.2ReLU激活函數147
6.2.3池化層148
6.2.4Softmax分類(lèi)層149
6.2.5主要特點(diǎn)151
6.2.6經(jīng)典神經(jīng)網(wǎng)絡(luò )架構152
6.3PaddlePaddle實(shí)現159
6.3.1數據介紹159
6.3.2模型概覽160
6.3.3配置說(shuō)明160
6.3.4應用模型168
本章小結169
第7章個(gè)性化推薦170
7.1問(wèn)題描述170
7.2傳統推薦方法171
7.2.1基于內容的推薦172
7.2.2協(xié)同過(guò)濾推薦173
7.2.3混合推薦175
7.3深度學(xué)習推薦方法176
7.3.1YouTube的深度神經(jīng)網(wǎng)絡(luò )推薦系統176
7.3.2融合推薦系統178
7.4個(gè)性化推薦系統在PaddlePaddle上的實(shí)現180
7.4.1數據準備180
7.4.2模型配置182
7.4.3模型訓練184
7.4.4模型測試188
本章小結188
第8章個(gè)性化推薦的分布式實(shí)現190
8.1PaddlePaddleCloud介紹190
8.2PaddlePaddleCloud使用192
8.2.1創(chuàng )建集群192
8.2.2配置集群192
8.2.3配置客戶(hù)端193
8.3個(gè)性化推薦在PaddlePaddleCloud上的實(shí)現194
8.3.1提交單節點(diǎn)任務(wù)194
8.3.2個(gè)性化推薦在PaddlePaddleCloud上的實(shí)現196
本章小結199
第9章廣告CTR預估200
9.1CTR預估簡(jiǎn)介200
9.1.1CTR定義201
9.1.2CTR與推薦算法的異同202
9.1.3CTR預估的評價(jià)指標202
9.2CTR預估的基本過(guò)程205
9.2.1CTR預估的三個(gè)階段206
9.2.2CTR預估中的特征預處理206
9.3CTR預估的常見(jiàn)模型208
9.3.1LR模型208
9.3.2GBDT模型210
9.3.3GBDT+LR模型212
9.3.4FM+DNN模型214
9.3.5MLR模型215
9.4CTR預估在工業(yè)上的實(shí)現217
9.5CTR預估在PaddlePaddle上的實(shí)現218
9.5.1數據集218
9.5.2預測模型選擇和構建219
9.5.3PaddlePaddle完整實(shí)現222
本章小結226
第10章算法優(yōu)化227
10.1基礎知識227
10.1.1訓練、驗證和測試集227
10.1.2偏差和方差228
10.2評估229
10.2.1選定評估目標229
10.2.2迭代過(guò)程230
10.2.3欠擬合和過(guò)擬合230
10.3調優(yōu)策略231
10.3.1降低偏差231
10.3.2降低方差236
10.4超參數調優(yōu)242
10.4.1隨機搜索和網(wǎng)格搜索242
10.4.2超參數范圍243
10.4.3分階段搜索243
10.4.4例子：對學(xué)習率的調整244
本章小結245