本書以數據分析領域*熱的Python語言為主要線索，介紹了數據分析庫numpy、Pandas與機器學習庫scikit-learn，使用了可視化環境Orange 3來理解算法的一些細節。對于機器學習，既有常用算法KNN與Kmeans的應用，決策樹與*森林的實戰，還涉及常用特征工程與深度學習中的自動編程器。在大數據Hadoop與Hive環境的基礎之上，使用Spark的ML/MLlib庫集成了前面的各部分內容，讓分布式機器學習更容易。大量的工具與技能實戰的介紹將各部分融合成一個全棧的數據科學內容。
執利器而守重鎮Python*強大的領域在數據科學
窺全貌而知路徑整合Linux|Python|SQL|Hadoop|Hive|Spark|數據挖掘|機器學習|深度學習
知原理而致應用全棧數據既指數據技術，也指業務數據，生產環境是*終的檢驗場。
立平臺而生數據建設強大數據平臺，是支撐產品也業務的必由之路。
0x00 自序
慈悲為懷大數據，云中仙游戒為師。這是自己從幾年前一直沿用到現在的簽名，幾年之后的今天，再來體會這句話，不一樣的處境，不一樣的心境，卻依然有著同樣的追求。曾想出世修行，渴望每日有高山流水相伴，能過著青燈古佛的生活。終因現實殘酷只得入世而求存，在多少次碌碌無為中堅定了技術這條路。技術之路，注定會一波三折。在下也經歷了從安全測試、安全分析，到大數據分析，再到 APP后端開發，直至數據分析、機器學習與深度學習之后，技術之棧才得以完全確立。技術之路漫長而曲折，需要不斷修行，目前我也僅僅是入得門內，自此方有機會窺探神秘數據世界之一二而已。少年不識愁滋味，為賦新詞強說愁。而今識盡愁滋味，卻道天涼好個秋。學無止境。曾經以為學會 Linux便夠了，殊不知，這僅僅是系統的基礎；后來學了 Python，以為這便是編程的全部；殊不知， Python最強大的領域在數據科學；直到接觸大數據與機器學習，才發現，原來種種際遇，都只是為數據科學而鋪設的套路。
本書并非從入門到精通的講解，只是想通過淺顯易懂的語言讓讀者了解全棧數據的全貌。閱讀本書時，如果其中某個知識點，讓你入了門，我甚感欣慰；如果其中某節內容，讓你得到了提高，我備受鼓舞。另外，入門之路千千萬，用時下流行的話來說，只希望本書不會導致你從入門到放棄。
全棧數據，主要想盡可能多地涉及數據科學中的主題。任何復雜的技術，都是一點點積累起來的，數據科學也不例外。如果能將本書中涉及的全棧數據技術，如 Linux、Python、SQL、Hadoop、Hive、Spark、數據挖掘、機器學習與深度學習進行系統性整合，則全棧數據之技可成也。
詩詞歌賦，是詩人與詞人對人生的情感寄托；技術寫作，也是技術人員對技術的情感寄托。
然術業有專攻，每個人的知識都是有限的，寫書的目的，并非要證明自己，而是把自己所知所想記錄下來，讓讀者能有哪怕一小點的收獲即可。
全棧并非全能，錢都不是萬能的，何況技術乎？在數據領域，都懂一點，生活會更美好。
全棧是一種修行，數據技術如此，人生亦如是：
閱讀本書，不能讓你立刻走上人生巔峰、出任 CEO……但至少可以達到以下幾點：
本書是一本無固定主題的技術文集合體，圍繞數據這個主線，進行了大量的展開，從不同的側面去靠近全棧數據技能，去靠近數據科學這個大主題。因內容寬泛，且作者水平有限，不足之處甚多，若讀者發現書中的問題，還望不吝指正。可以通過我的微信公眾號 yunjie-talk反饋問題，我將不勝感激。
最后，本書得以成冊出版，必須要感謝電子工業出版社計算機出版分社的張春雨老師，伯樂張老師于雜亂文字中，發現了閃光之處，促成了本書的問世。世人皆說本書體裁太亂，無章法可言，唯張伯樂以無招勝有招接下，眾皆信服。
本書在寫作過程中，得益于愛妻梁玉霞女士的大力支持，常于深夜端茶倒水，詢問進度，并且照顧家庭與小孩，讓我可以抽出大量時間來書寫，感激之情在心，在此道謝。與此同時，也感謝全力支持我寫作的父母，他們幫忙照顧小孩與生活，對我學業、事業與寫作的支持，讓我感恩。
另外，本書在寫作過程中，得到好友司旭鵬的很多支持與建議，在初稿審校過程中，得到好友尹高峰、盧西、彭璽錦的很多建議與修改，在此一并感謝。因為你們的付出，讓本書質量得到了提升，非常感謝。
在寫作本書的約一年時間之內，還得到了其他很多朋友、同事的大量建議，在此雖不一一提名，但必須要感謝你們的支持。
云戒2016.11.11 于成都
前言 自強不息，厚德載物
本書共有 8個章節的內容，涉及數據科學中的相關基礎知識與內容，但內容的編排并非完全從易到難，有部分文章的內容，是需要用到其他章節的知識的。
相對來說，第 1、2、3章，內容比較單一，涉及基礎的 Linux、Python與 Hadoop知識。如果對這三章中的某些知識不熟悉，建議先閱讀。第 4章比較特殊，其內容也是數據科學中比較重要的，不僅需要前 3章的知識，也需要部分 Spark的知識，因為 Spark的特殊性，單獨放到機器學習之后了。
第 5、6章，涉及數據科學中最重要的主題：機器學習與算法，介紹了機器學習的常用環境、概念、方法以及幾個典型的算法應用。這兩章是本書的難點，如果不熟悉，必須單獨攻克。
第 7章，Spark本身就是一個全棧框架，無論是在分布式計算還是在機器學習領域，都大有用處。因此最好有前面章節的基礎知識，方能更好地理解本章的內容，尤其是 MLlib/ML庫，必須有機器學習算法的知識。
最后一章，反而是最簡單的，因為基本不涉及技術細節，但對整個數據科學的理解，以及技術積累都是非常重要的。
本書章節的編排，在一定程度上參考了知識的由易到難，另外一個方面，也參考了《易經》的乾坤兩個卦象。不需要讀者熟悉乾坤兩個卦象，下面會將其中乾坤兩個卦的爻辭進行粗略的解釋。不需要讀者完全理解，只求有個概念上的認識即可。
全棧數據，其中的數據既指數據技術，也指業務數據。只有將技術應用到業務中，才能在實際的生產環境中發揮作用。
介紹卦象的時候，是由低層次向高層次漸漸提升的，對應的技能與業務也一樣。從 Linux走向數據科學，就是一個技能提升的過程，類似的，從數據采集到數據應用也是對業務從入門到應用的一個過程。
01 全棧技能，自強不息
乾坤為一體，況且一陰一陽之謂道。世界上不可能只有男人而沒有女人，正如不可能只有女神而沒有女漢子一樣。因此，和純陽卦乾卦相對的便是純陰卦坤卦了。
乾卦，正是天行健，君子以自強不息。下面先用乾卦來說全棧技術。
1.1 Linux，潛龍勿用
初九爻，爻辭為：潛龍勿用。
乾卦每一爻都代表了一條龍，初九爻為潛龍。潛字很有意思，是叫你要藏起來，不要露面，那能干什么呢？
剛接觸 Linux，覺得 Linux非常自由。此時剛開始入門，興趣最重要，這一階段，需要打好各種系統與命令行的基礎。
要做好數據科學，不學 Linux不行，不論你喜歡與否。后續的 Python、 Spark、Hadoop、數據挖掘等都需要用到大量基礎的 Linux知識。勿用的意思是，時候不到就不要用，當準備好了，就要用。
Linux只是一個基礎系統，必須要結合實際的業務來更好地應用，勿用到最后就是為了要用，此時就進入了第二階段。
1.2 Python，見龍在田
九二爻，爻辭為：見龍在田，利見大人。
見（xiàn）通現，意為展現，要能在工作中快速解決問題，學習 Python，就可以讓你快速展現出業績來。由 Python入門數據分析與數據挖掘，這算是程序員入行數據挖掘最好的方法了， Python目前最火的領域，就是在數據科學領域。況且 Python語法優美，第三方庫龐大且高效，專門用于快速解決問題。
Python是一條巨龍，一旦展現在田野，必須拿出一點實力來表現自己，對上面的大人有利。從 Linux過來，將 Python應用到業務中，快速地解決了問題，業績自然來了，其利也自現了。
在數據科學中，學了 Python的開發與數據分析，這還只是基礎，還有另外一個工程領域的技能大數據，需要學習。此時，進入九三爻。
1.3 大數據，終日乾乾
所有的事件都會進入第三階段，即九三爻，爻辭為：君子終日乾乾，夕惕若，厲無咎。
君子，指有志氣、有抱負的人。整天都很努力地學習，是會被人嫉妒的，所以言行都要小心。
工作中，必須要兢兢業業，努力做好工作。太陽下山之后，更需要警惕，時刻告誡自己，三天不學習，可能就趕不上曾經比自己差的人了。必須要利用業余時間學習新技術，而以 Hadoop為代表的大數據，正是近年來火得一塌糊涂的技術，況且網上的學習資料已經非常多了。
這是一門在學校很難學到的技術，因此必須自己利用業余時間，每天厲兵秣馬，努力讓自己的數據科學技能更加完善。
1.4 機器學習，或躍在淵
有些人和事，是沒有第四階段的，因為他們可能一輩子就留在第三階段。進入第四階段，即九四爻：或躍在淵，無咎。
學習了前面三種技術（ Linux、Python和大數據）后，要想再深入，此時必須往數據挖掘與機器學習方面發展。數據挖掘與數據分析還是有一定區別的，數據挖掘更偏向于使用算法解決問題，而分析更多是偏統計與業務（包括運營、產品）層面的。
尤其是機器學習，要看得懂 scikit-learn的文檔，必須輔助以相應的理論基礎，涉及數學、統計學、計算機等多個領域。
一部分人在此階段向機器學習方向跳躍，可是沒有堅定的信念，最后就真應了那句從入門到放棄的話了。
機器學習，因其特殊的學科領域，由程序員轉過來的占很大一部分，要想躍上去，必須堅定信念，不忘初心。對碼農而言，其難，就難在理論。下足工夫，堅持苦修，一定會有所成就。
1.5 Spark，飛龍在天
過了九四階段，到九五階段也容易。而九五階段也是最舒服的階段，我們常說的九五至尊便是這個階段。爻辭為：飛龍在天，利見大人。
有了前面的基礎，再學習 Spark技術，相對就很容易了。再面對 Spark中的機器學習庫 ML或 MLlib，也就不會束手無策了。 Spark可以說是前面技能的集大成者，需要 HDFS文件的支持，能天生支持 Hive的數據，能使用 Python的 API接口，以前在 Python中能用的那些庫，在 Spark中，通通都能用，而且效率更高。
技能到了，境界也差不了多少，渾身散發的數據氣場也很強。此階段也可以認為是第二階段的見龍眼中的大人了，行事也需要有大人的風范才行。
1.6 數據科學，亢龍有悔
做技術的人，其實比較希望停留在九五階段，可卻經常事與愿違啊！而且物極必反的道理相信你也懂，事物的發展是不會停止的。過了九五階段，還有九六階段。九六爻爻辭為：亢龍有悔。
有的人感覺自己領悟了整個數據科學的技能與本質，其實也還只是一些皮毛，若此時停止不前，甚至轉向管理，那么技術也就基本荒廢了。
正確的做法應該是，回頭再去加深領悟各個階段的技術與技能，將其更好地應用到業務中去。回想曾經犯
作者一直工作在數據處理與數據挖掘的第一線，具有豐富的理論知識和實踐經驗，且精通多種數據挖掘與分析的工具的使用，文筆也不錯，相信能為讀者奉獻一本質量上乘的佳作。
目錄
前言 自強不息，厚德載物 / XIX
0x1 Linux，自由之光 / 001
0x10 Linux，你是我的眼 / 001
0x11 Linux基礎，從零開始 / 003
01 Linux之門 / 003
02 文件操作 / 004
03 權限管理 / 006
04 軟件安裝 / 008
05 實戰經驗 / 010
0x12 Sed與 Grep，文本處理 / 010
01 文本工具 / 010
02 grep的使用 / 011
03 grep家族 / 013
04 sed的使用 / 014
05 綜合案例 / 016
0x13 數據工程，必備 Shell / 018
01 Shell分析 / 018
02 文件探索 / 019
03 內容探索 / 020
04 交差并補 / 020
05 其他常用的命令 / 021
06 批量操作 / 022
07 結語 / 025
0x14 Shell 快捷鍵，Emacs 之門 / 025
01 提高效率 / 025
02 光標移動 / 026
03 文本編輯 / 027
04 命令搜索 / 028
05 Emacs 入門 / 029
06 Emacs 思維 / 031
0x15 緣起Linux，一入Mac 誤終身 / 032
01 開源生萬物 / 032
02 有錢就換Mac / 032
03 程序員需求 / 033
04 非程序員需求 / 034
05 一入Mac 誤終身 / 035
0x16 大成就者，集群安裝 / 036
01 離線安裝 / 036
02 Host 與SSH 配置 / 037
03 sudo 與JDK 環境 / 039
04 準備Hadoop 包 / 040
05 開啟HTTP 與配置源 / 041
06 安裝ambari-server / 041
07 后續服務安裝 / 042
08 結語 / 044
0x2 Python，道法自然 / 045
0x20 Python，靈犀一指 / 045
0x21 Python 基礎，興趣為王 / 047
01 第一語言 / 047
02 數據結構 / 047
03 文件讀寫 / 049
04 使用模塊 / 050
05 函數式編程 / 052
06 一道面試題 / 053
07 興趣驅動 / 055
0x22 喜新厭舊，2遷移 3 / 056
01 新舊交替 / 056
02 基礎變化 / 057
03 編碼問題 / 058
04 其他變化 / 058
05 2to3腳本 / 060
06 PySpark配置 / 061
07 喜新厭舊 / 062
0x23 Anaconda，IPython / 062
01 Anaconda / 062
02 安裝與配置 / 063
03 pip與源 / 064
04 IPython與 Jupyter / 065
05 結語 / 067
0x24 美不勝收，Python工具 / 067
01 緣起 / 067
02 調試與開發 / 068
03 排版與格式化 / 070
04 輔助工具 / 072
05 實用推薦 / 074
0x25 numpy基礎，線性代數 / 075
01 numpy的使用 / 075
02 索引與切片 / 076
03 變形與統計 / 078
04 矩陣運算 / 080
05 實用方法 / 083
06 結語 / 085
0x26 numpy實戰，PCA降維 / 085
01 PCA介紹 / 085
02 數據均值化 / 086
03 協方差矩陣 / 087
04 特征值與向量 / 088
05 數據映射降維 / 089
06 sklearn 實現 / 090
0x3 大數據，其大無外 / 093
0x30 太大數據，極生兩儀 / 093
0x31 神象住世，Hadoop / 095
01 Hadoop / 095
02 HDFS / 096
03 角色與管理 / 097
04 文件操作 / 098
05 結語 / 100
0x32 分治之美，MapReduce / 100
01 map 與reduce 函數 / 100
02 分而治之 / 102
03 Hello,World / 103
04 Streaming 接口 / 105
0x33 Hive 基礎，蜂巢與倉庫 / 106
01 引言 / 106
02 Hive 接口 / 107
03 分區建表 / 108
04 分區機制 / 110
05 數據導入/ 導出 / 111
06 Hive-QL / 112
07 結語 / 114
0x34 Hive 深入，實戰經驗 / 115
01 排序與分布式 / 115
02 多表插入與mapjoin / 116
03 加載map-reduce 腳本 / 117
04 使用第三方UDF / 119
05 實戰經驗 / 120
06 生成唯一ID / 121
0x35 HBase庫，實時業務 / 122
01 理論基礎 / 122 02 Shell操作 / 123 03 關聯 Hive表 / 126 04 數據導入 / 128 05 實用經驗 / 130
0x36 SQL與 NoSQL，Sqoop為媒 / 130
01 SQL與 NOSQL / 130 02 從 MySQL導入 HDFS / 131 03 增量導入 / 134 04 映射到 Hive / 135 05 導入 Hive表 / 136 06 從 HDFS導出到 MySQL / 137 07 從 Hive導出到 MySQL / 138
0x4 數據分析，見微知著 / 141
0x40 大數據分析，魯班為祖師 / 141 0x41 SQL技能，必備 MySQL / 143
01 SQL工具 / 143 02 基礎操作 / 144 03 查詢套路 / 145 04 join查詢 / 146 05 union與 exists / 149 06 實戰經驗 / 151
0x42 快刀 awk，斬亂數據 / 152
01 快刀 / 152 02 一二三要點 / 152 03 一個示例 / 154 04 應用與統計 / 154 05 斬亂麻 / 156
0x43 Pandas，數據之框 / 157
01 數據為框 / 157
02 加載數據 / 158
03 行列索引 / 159
04 行列操作 / 161
05 合并聚合 / 163
06 迭代數據 / 164
07 結語 / 165
0x44 Zeppelin，一統江湖 / 166
01 心潮澎湃 / 166
02 基本使用 / 168
03 SQL 與可視化 / 169
04 安裝Zeppelin / 172
05 配置Zeppelin / 173
06 數據安全 / 174
07 使用心得 / 176
0x45 數據分組，聚合窗口 / 177
01 MySQL 聚合 / 177
02 Spark 聚合 / 178
03 非聚合字段 / 179
04 Hive 實現 / 180
05 group_concat / 181
06 Hive 窗口函數 / 183
07 DataFrame 窗口 / 184
08 結語 / 185
0x46 全棧分析，六層內功 / 186
01 引言 / 186
02 MySQL 版本 / 186
03 awk 版本 / 187
04 Python 版本 / 188
05 Hive 版本 / 189
06 map-reduce 版本 / 190
07 Spark 版本 / 190
08 結語 / 191
0x5 機器學習，人類失控 / 193
0x50 機器學習，瑯琊論斷 / 193 0x51 酸酸甜甜，Orange / 195
01 可視化學習 / 195 02 數據探索 / 196 03 模型與評估 / 199 04 組件介紹 / 200 05 與 Python進行整合 / 202 06 結語 / 204
0x52 sklearn，機器學習 / 205
01 sklearn介紹 / 205 02 數據預處理 / 206 03 建模與預測 / 207 04 模型評估 / 209 05 模型持久化 / 210 06 三個層次 / 210
0x53 特征轉換，量綱伸縮 / 211
01 特征工程 / 211 02 獨熱編碼 / 212 03 sklearn示例 / 213 04 標準化與歸一化 / 215 05 sklearn與 Spark實現 / 216 06 結語 / 219
0x54 描述統計，基礎指標 / 220
01 描述性統計 / 220 02 Pandas實現 / 222 03 方差與協方差 / 223 04 Spark-RDD實現 / 224 05 DataFrame實現 / 226 06 Spark-SQL實現 / 227 07 結語 / 227
0x55 模型評估，交叉驗證 / 228
01 測試與訓練 / 228
02 評價指標 / 229
03 交叉驗證 / 231
04 驗證數據 / 232
05 OOB 數據 / 233
0x56 文本特征，詞袋模型 / 234
01 自然語言 / 234
02 中文分詞 / 235
03 詞袋模型 / 236
04 詞頻統計 / 237
05 TF-IDF / 238
06 結語 / 239
0x6 算法預測，占天卜地 / 241
0x60 命由己做，福自己求 / 241
0x61 近朱者赤，相親kNN / 243
01 樸素的思想 / 243
02 算法介紹 / 243
03 分類與回歸 / 244
04 k 與半徑 / 245
05 優化計算 / 246
06 實例應用 / 247
0x62 物以類聚，Kmeans / 248
01 算法描述 / 248
02 建立模型 / 249
03 理解模型 / 251
04 距離與相似性 / 252
05 降維與可視化 / 253
06 無監督學習 / 255
0x63 很傻很天真，樸素貝葉斯 / 257
01 樸素思想 / 257
02 概率公式 / 257
03 三種實現 / 258
04 sklearn 示例 / 260
05 樸素卻不傻 / 262
0x64 菩提之樹，決策姻緣 / 263
01 緣起 / 263 02 Orange演示 / 264 03 scikit-learn模擬 / 266 04 熵與基尼指數 / 267 05 決策過程分析 / 268 06 Spark模擬 / 270 07 結語 / 271
0x65 隨機之美，隨機森林 / 271
01 樹與森林 / 271 02 處處隨機 / 273 03 sklearn示例 / 274 04 MLlib示例 / 275 05 特點與應用 / 276
0x66 自編碼器，深度之門 / 277
01 深度學習 / 277 02 特征學習 / 278 03 自動編碼器 / 280 04 Keras代碼 / 282 05 抗噪編碼器 / 283
0x7 Spark，唯快不破 / 285
0x70 人生苦短，快用 Spark / 285 0x71 PySpark之門，強者聯盟 / 287
01 全棧框架 / 287 02 環境搭建 / 288 03 分布式部署 / 289 04 示例分析 / 290 05 兩類算子 / 292 06 map與 reduce / 293 07 AMPLab的野心 / 294
0x72 RDD 算子，計算之魂 / 295
01 算子之道 / 295
02 獲取數據 / 296
03 過濾與排序 / 297
04 聚合數據 / 298
05 join 連接 / 299
06 union 與zip / 300
07 讀寫文件 / 301
08 結語 / 303
0x73 分布式SQL，蝶戀飛舞 / 304
01 SQL 工具 / 304
02 命令行CLI / 304
03 讀Hive 數據 / 305
04 將結果寫入Hive / 306
05 讀寫MySQL 數據 / 307
06 讀寫三種文件 / 308
0x74 DataFrame，三角之戀 / 310
01 DataFrame / 310
02 生成數據框 / 311
03 合并與join / 313
04 select 操作 / 314
05 SQL 操作 / 315
06 自定義UDF / 316
07 三角之戀 / 318
0x75 神器之父，Scala 入世 / 319
01 Spark 與Scala / 319
02 Scala REPL / 320
03 編譯Scala / 321
04 sbt 編譯 / 322
05 示例分析 / 323
06 編譯提交 / 325
0x76 機器之心，ML 套路 / 326
01 城市套路深 / 326
02 算法與特征工程 / 327 03 管道工作流 / 328 04 OneHotEncoder示例 / 329 05 ML回歸實戰 / 331 06 特征處理與算法 / 332 07 擬合與評估 / 334
0x8 數據科學，全棧智慧 / 337
0x80 才高八斗，共分天下 / 337 0x81 自學數據，神蟒領舞 / 339
01 機器學習 / 339 02 語言領域 / 339 03 Python數據生態 / 340 04 相關資料 / 341 05 書籍推薦 / 342 06 性感的職業 / 343
0x82 數據科學，七大技能 / 343
01 七大技能 / 343 02 SQL與 NoSQL技能 / 344 03 Linux工具集 / 344 04 Python或者 R語言生態 / 345 05 Hadoop與 Spark生態 / 345 06 概率、統計與線性代數 / 34
新書資訊