台灣 Hadoop Big Data 2014 趨勢預測與企業策略藍圖
•
40 gefällt mir•73,096 views
亞洲 Hadoop 產品與解決方案引領者 Etu，於年度 Etu Solution Day (ESD) 活動中發表「2014 年台灣 Big Data 市場 5 大趨勢預測」。Etu 也首度發表兩岸的 10 大行業、21 種 Hadoop Big Data 已經被驗證的應用，如電信業的經營分析與客服查詢、電子商務的精準推薦、數位媒體的內容推薦、零售行業的使用者行為分析、高科技製造的資料倉儲工作分流卸載與製程良率分析、政府與地產的輿情分析、電力的能源管理、保險的巨量小圖檔管理等。預期 2014 年的台灣 Big Data 市場將更為成熟，經過驗證階段後，進入最後導入階段的企業也可望有倍數的成長。 Etu 負責人蔣居裕表示：「UDN 的採用，說明了台灣企業導入 Big Data 應用的需求在特定產業力道明顯上揚，『2014 年台灣 Big Data 市場的 5 大趨勢預測』也呼應了這樣的看法。」蔣居裕說：「一、首先過河的人，要開始挑戰資料價值的海洋，越早期投入者，越用越深，越深越廣；二、Total Data BI 帶動企業採用多結構化資料倉儲。客戶行為分析、精準行銷、客戶體驗是應用目標；三、從新舊系統整合到 End-to-End 解決方案，大部分企業期待廠商能夠完整交付 Big Data 應用與專業技術顧問。『容易』(Ease) 是 Big Data 產品進入企業的關鍵字；四、資料探索工具當道，力助 Business User 比 IT 人員更能挖掘 Big Data 的價值。『探索』(Discovery) 是 Big Data 分析的神髓所在 —— 探索關聯、探索意圖、探索缺少什麼；五、Big Data 教育訓練課程，從以處理技術為主者，快速擴展到資料分析。但均會被含括在『資料科學』大傘下。資料科學家萬中選一，強調專業分工的資料科學團隊，才是實踐資料價值希望之所在。」 ESD 2013 另外還展現了藉由 Etu Appliance 所架構起來的 Etu Ecosystem，展示了由 Etu 以及 ISV 夥伴們所開發的 End-to-End 解決方案：Etu Recommender，除了原有的個人化精準推薦，現在還可與第三方工具整合，進行資料視覺化探索，建置使用者行為分析資料倉儲；合作夥伴堂朝數位整合的雲端電子刊物加值平台、PilotTV 前線媒體的收視量測系統、樺鼎商業資訊的視覺化分析工具、以及衛信科技的 SDN 網路管理完整解決方案，則分別透過 Etu Appliance 來做巨量、可擴展的檔案格式轉換運算、臉部辨識資料及時處理與分析、多結構化資料倉儲、網路資料封包預處理等工作。這些方案的共同點，就是它們都是基於不斷獲得各種產品創新獎項的 Etu Appliance 所開發或整合的應用。
Empfohlen
Weitere ähnliche Inhalte
Was ist angesagt?
Was ist angesagt? (20)
Ähnlich wie 台灣 Hadoop Big Data 2014 趨勢預測與企業策略藍圖
Ähnlich wie 台灣 Hadoop Big Data 2014 趨勢預測與企業策略藍圖 (20)
Mehr von Etu Solution
Mehr von Etu Solution (20)
台灣 Hadoop Big Data 2014 趨勢預測與企業策略藍圖
- 1. 台灣 Hadoop Big Data 2014 趨勢預測與企業策略藍圖 精誠集團 Etu 負責人 蔣居裕 October 16, 2013
- 2. Monetize Data 分 析 處 理 決 策 資料價值驅動 Action 暑假計畫要從台灣南騎到北，目 標在 3 天內完成 Insight 台灣夏季由北騎到南，一般人不 可能達到平均時速 15 公里 Knowledge Information Data 一般人騎單車的時速約 15 公里； 台灣夏季吹南風，冬季吹東北風 台灣南北全長 394 公里 394 公里 詳情參見： http://fredbigdata.blogspot.tw/2013/05/big-data.html 2
- 3. 大綱 • 2013 台灣 Big Data 市場發展檢視 • 2014 台灣 Big Data 市場趨勢預測 • 成功在我，企業 Big Data 價值發展藍圖 • Etu 2014 發展重點 • Etu Solution Day 2013 活動導覽 3
- 4. 2013 台灣 Big Data 市場發展檢視 4
- 5. 參考資料 1.《台灣 Hadoop 2013 現狀問卷調查》 2. Etu Training 學員統計 主辦單位：Etu 協辦單位：Hadoop Taiwan User Group 調查期間：2013.9.12 ~ 2013.10.7 有效樣本數：176 主辦單位：Etu 統計期間：2012.8.30 ~ 2013.9.26 開班次數：30 5
- 7. Etu 的一些 2013 市場經驗分享 • 兩岸 Hadoop 平台搭建案例較 2012 年成長約 14 倍；大陸成長速度比台灣高 • 10 個主要行業，21 種應用 • 早期投入者，越用越深，越用越廣 7
- 8. Etu 的一些 2013 市場經驗分享 ─ 行業 台灣 1. 電信 2. 零售 (含 EC) 3. 政府 4. 數位媒體 5. 線上遊戲 6. 電力能源 7. 高科技製造 8. 氣象 9. 金融-證期 大陸 1. 電信 2. 零售 (含 EC) 3. 政府 4. 數位媒體 5. 線上遊戲 6. 電力能源 7. 商業地產 8. 金融-保險 8
- 9. 調查告訴我們的事 – 行業 受調者前 5 大行業： 1. 資訊服務 (36%) 2. 教育 (14%) 3. 高科技製造 (12%) 4. 電子商務 (6%) 5. 電信 (6%) 資料來源：《台灣 Hadoop 2013 現狀問卷調查》 資料統計：Etu 9
- 10. 教育訓練告訴我們的事 – 行業 42% 10% 9% 5% 4% 4% 3% 3% 3% 3% 3% 2% 2% 2% 2% 1% 1% 1% 1% 資 電 教 服 銀 政 半 電 生 製 電 電 金 光 保 汽 不 證 貿 訊 信 育 務 行 府 導 腦 技 造 子 子 融 電 險 車 動 券 易 服 業 服 業 機 體 週 醫 業 零 通 業 業 工 產 百 務 關 業 邊 療 其 組 路 其 業 服 學員行業前 6 名： 1. 資訊服務 (42%) 2. 電信 (10%) 3. 教育 (9%) 4. 服務業其他 (5%) 5. 銀行/政府 (4%) 6. 半導體/電腦週邊/生技醫療/ 製造業其他/電子零組件 (3%) 貨 務 其 他 他 件 他 務 業 資料來源：Etu Training 學員統計 資料統計：Etu 10
- 11. 台灣資服廠商與教育單位比企業更急於 認識與使用 Hadoop Big Data 技術 11
- 12. Highlighted 行業 – 應用 • 電信/高科技製造 Data Warehouse Offload Hadoop Resource Pool • 零售/數位媒體 精準推薦 集團客戶行為 資料分析工廠 12
- 13. Hadooper in Taiwan 2013 13
- 14. 《台灣 Hadoop 2013 現狀問卷調查》 特色：台灣第一份針對 Hadoop 的使用調查 目的：具體描繪台灣 Hadooper 的面貌 背景 學習 經驗 角色 使用 分享 期待 社群 需求 ※ 完整調查報告將於 2013 年 10 月底公佈，敬請關注 Etu 官網或 Etu Taiwan Facebook 粉絲專頁 14
- 15. 台灣 Hadooper 的典型面貌 • 男性 • 居住在北部地區 • 在多於 100 位員工的組織中擔任基層技術員工； 角色以應用程式開發為主，資料分析、系統管理依 序次之 • 接觸 Hadoop 的時間少於 1 年 照片來源：PLF Photographie 15
- 16. 關於 Hadooper 超過 3/4 居住在北部地區 16
- 17. 關於 Hadooper 近 8 成為男性 17
- 18. 關於 Hadooper 基層員工：中高階主管 ＝ 53%：14% 學生 = 23% 18
- 19. 關於 Hadooper 一半任職於 > 100 位員工的組織 18 > 10000 人 7 5001~10000 人 24 1001~5000 人 9 501~1000 人 21 101~500 人 12 51~100 人 32 11~50 人 35 <= 10 人 0 5 10 15 20 25 30 35 19
- 20. 關於 Hadooper 47% 為技術人員 23% 為學術研究人員 9% 為商業智慧/資料分析人員 20
- 21. 關於 Hadooper 前 5 大行業： 1. 資訊服務 (36%) 2. 教育 (14%) 3. 高科技製造 (12%) 4. 電子商務 (6%) 5. 電信 (6%) 21
- 22. 關於 Hadooper 應用開發：資料分析：系統管理 = 27%：14%：11% Real Hadoop User 超過一半 (52%) 22
- 23. 關於 Hadooper 超過一半 (56%) 接觸 Hadoop 的時間少於 1 年 (含不熟)；超過 2 年經驗者約佔 4 成 23
- 24. 關於 Hadoop 使用 認識：驗證：導入 = 33%：17%：23% 24
- 25. 關於 Hadoop 使用 關心的前 5 大應用 1. 線上行為分析 (44%) 2. 精準行銷 (34%) 3. 客戶服務體驗 (34%) 4. 推薦系統 (30%) 5. 多結構化資料倉儲 (29%) 25
- 26. 關於 Hadoop 使用 對使用 Hadoop 最有幫助的前 3 大工具 1. 資料視覺化 (20%) 1. 統計/分析 (20%) 2. 各種資料來源的接引 (18%) 26
- 27. 關於 Hadoop 使用 組織目前對於 Hadoop 最迫切的前 3 大需求 1. 最簡單易用的 Hadoop 平台軟體 (48%) 2. 完整的教育訓練課程 (33%) 3. 專業的技術顧問服務 (28%) 27
- 28. 2014 台灣 Big Data 市場趨勢預測 28
- 29. 2014 台灣 Big Data 市場趨勢預測 1. 首先過河的人，要開始挑戰資料價值的海洋 • 首先投入 Hadoop 應用者，隨著資料的持續累積，將越用越廣、 越用越深 • 電信、線上/線下零售、數位媒體、高科技製造、政府，確定為率 先採用 Hadoop 的行業 • 即使是同一行業，各公司可能會有不同的起始應用類型 29
- 30. 越用越深 一個精準推薦引擎，更多價值創新 “我們利用 Etu Recommender 運算出的 推薦清單，對點數未用會員 所發出的個人化電子報， 成交金額是未個人化前的 5 倍以上” A 客戶行銷主管說 30
- 31. 2014 台灣 Big Data 市場趨勢預測 2. Total Data BI 帶動企業採用多結構化資料倉儲 • 接引內、外資料，多結構化資料倉儲是建置標的；客戶行為分析、 精準行銷、客戶體驗是應用目標 31
- 32. 前所未有 加入新的資料來源，創新商業智慧 “我們對放在 RDB 裡的交易資料進行 BI 分析，已經很難再有新的突破” B 客戶 BI 主管說 32
- 33. 客戶行為資料工廠對零售業的必要性 Listen to Customers’ Behavior 客戶動態行為 • • • • • • • Listen 交易 Transaction 瀏覽 Browsing 點擊 Click-streaming 搜尋 Search 購物車 Cart 結帳 Check-out 評論 Rating +外部資料 Analysis Action 個人化推薦清單 個人化 E-DM 關聯性分析 個人化推薦結果 個人化型錄 個人化電話行銷 關聯商品陳列 Customer Behavior Data Factory 基於推薦系統所建構出的客戶行為資料工廠 將會是零售業未來致勝的關鍵 33
- 34. 2014 台灣 Big Data 市場趨勢預測 3. 從新舊系統整合到 End-to-End 解決方案，大 部分企業期待廠商能夠完整交付 Big Data 應用 與專業技術顧問 • 「容易」(Ease) 是 Big Data 產品進入企業的關鍵字；2014 年將有更多強調容易使用的整合性產品或解決方案出現 • 本地的 Hadoop Big Data 技術顧問更能獲得台灣企業的信賴 34
- 36. 36
- 37. Etu Recommender 個人化精準推薦 End-to-End 解決方案 快速上線，快速驗證，持續最佳化 37
- 38. 2014 台灣 Big Data 市場趨勢預測 4. 資料探索工具當道，力助 Business User 比 IT 人員更能挖掘 Big Data 的價值 • 「探索」(Discovery) 是 Big Data 分析的神髓所在 — 探索關 聯、探索意圖、探索缺少什麼。將有越來越多產品強調探索 Big Data 的各種價值 • 資料視覺化 (Data Visualization) 是探索的關鍵能力 38
- 39. 2014 台灣 Big Data 市場趨勢預測 5. Big Data 教育訓練課程，從以處理技術為主 者，快速擴展到資料分析。但均會被含括在「資 料科學」大傘下 • 資料科學家萬中選一，強調專業分工的資料科學團隊，才是實踐 資料價值希望之所在 • Open Data 應用養成的資料科學人才，將可為 Big Data 處 理、分析、視覺化所用 39
- 41. 成功在我，企業 Big Data 價值發展藍圖 41
- 43. 資料價值探索 End-to-End 流程 處理者 70%～85% 的工作時間 策略者 策略者 Source: Next-Gen Data Scientist, Dr. Rachel Schutt 分析者 43
- 44. 企業採用新技術產品典型的 3 階段過程 認識 驗證 導入 技術內涵 找一個題目 價值目標 產品/工具/解決方案 定義驗證的目標 預算編列 廠商 進行 PoC 需求/分析 Use Case 結案報告/評量結果 設計 Successful Story 建置 成本效益 上線營運 成果檢視/持續改善 擴大戰果 44
- 45. 認識 Hadoop 的全貌 Etu Training 2.0 「Hadoop 直通學習地圖」系列學程 L1 企業 Big Data 第一天系列課程 L2 企業 Big Data 前進系列課程 45
- 47. 導入 Hadoop End-to-End 解決方案 Etu ＋ Etu Partners 47
- 48. Etu 2014 發展重點 48
- 49. Etu 2014 關鍵字 • 客戶、客戶、客戶 – 從認識、驗證、到導入，一路長伴 • 夥伴、夥伴、夥伴 – ISV – VAR/SI • 應用、應用、應用 – 從精準推薦到客戶行為分析 – 從單一產品到整合方案 49
- 50. Etu Solution Day 2013 活動導覽 50
- 51. Etu Solution Day 2013 51
- 56. + Customer Insights > On-Demand Target Audience Etu Appliance：大量多結構化資料預處理 56
- 57. 如果您只記得 3 件事 1. 成功在我，先過河者，才有資格在資料價值的 海洋愜意遨遊。 2. Etu 是您認識、驗證、與導入 Hadoop Big Data 平台與應用時最可親的夥伴。 3. Etu 與 Etu Partners 攜手，為您的 Big Data 提供 End-to-End 解決方案。 57
- 58. Etu Appliance – 最簡單的 Hadoop 平台 2013 大數據優秀產品獎 58
- 60. 謝謝你，藍衣人 60
- 62. Agenda 一、源起 - udn買東西的誕生 二、Big Data的價值 三、尋找金羊毛 四、未來展望 五、「你究竟從事甚麼產業？」
- 63. 最懂你的網站 員工數 140人 會員數 40/200萬 商品品項數 120萬 單月不重複訪客 200萬 年銷售額 15億
- 65. Big Data的價值 – 回歸本質 S+V+O S V O S Ving O
- 67. 尋找金羊毛
- 68. Touchdown! Search Results Category Pages 產品資料 Cart Pages 歷史訂單 Etu Recommender 瀏覽、點擊 Etu Recommender Application 轉化率分析 搜尋 放入購物車 結帳 即時訂單 線上評論 Product Pages 資 料 擷 取 協同過濾 分析 Collaborative Filtering Email Confirmation 推 薦 清 單 EDM 推薦引擎 Etu Appliance
- 69. 未來展望 – EC篇 Big Data實際應用 透過各種方式探索、收集、分析客戶的需求與｢問題｣，與客戶進行實 質的互動 推薦引擎：online • 推薦類型：User Based、Item Based推薦 • 同類推薦：商品、新聞、廣告、展演活動…等 • 跨類推薦：新聞推商品、新聞推廣告、活動推商品…等 大數據分析：offline • 瀏覽行為分析：顧客動線分析 – Click Stream • 網站功能效益：電子報、活動網頁、排行榜、… • 行銷效益分析：準確地評估活動或廣告帶來的效益。 • 使用者喜好分析 (使用者分群) • 使用者行為預測
- 70. “pre-” + “-ing” + “post-” 消費者 电商前台页面 商品頁 行為數據採集 分館頁 購物車頁 推薦結果 統計分析 Hive SQL Recommender 瀏覽日誌 推薦結果 API JDBC/ODBC Connector Hive SQL HBase 搜尋日誌 購物車 訂單 採集 ER Data Exporter 推薦計算 結果展現 行為數據倉庫 Hive Tableau 分析挖掘
- 71. 未來展望 – udn 2.0 從面向「內容」到面向「用戶」 藝文 展演 廣告 CRM 新聞 出版 TV (內容) 教 育 EC
- 72. 「你究竟從事甚麼產業？」 新產業的誕生 – 大聯合報虛擬生活圈 解構傳統產業定義 顧客導向 ：單向餵養 -> 雙向交流 跨平台、跨載具 (多螢) 雙向虛實整合 企業能不能持續成長，取決於對本身業務的定義有多寬廣，以及對顧客需求的 評估有多仔細。因此，要以顧客為導向，妥善地管理你的產品；而且，不要畫 地自限，只著眼於眼前的獲利，才能讓自己的事業有更高、更寬廣的發展。 鐵路公司任由其他公司搶走顧客，因為他們認為自己屬於鐵路業，而不是運輸 業。他們會對自己的業務範圍界定錯誤，是因為他們以鐵路為導向，而不是以 運輸為導向；是以產品為導向，而不是以顧客為導向。 行銷短視症 (Marketing Myopia) 希奧多．李維特 Theodore Levitt
- 73. 0101010101010111101010101010000110101010100010101010110110100010101110110101101101101110110111 0001111001110011011101010111111011010010101010101011110101010101000011010101010001010101011011 01000101011101101011011011011101101110001111001110011011101010111111011010010101010101011110101 01010100001101010101000101010101101101000101011101101011011011011101101110001111001110011011101 0101111110110100101010101010111101010101010000110101010100010101010110110100010101110110101101 10110111011011100011110011100110111010101111110110100101010101010111101010101010000110101010100 01010101011011010001010111011010110110110111011011100011110011100110111010101111110110100101010 1010101111010101010100001101010101000101010101101101000101011101101011011011011101101110001111 0011100110111010101111110110100101010101010111101010101010000110101010100010101010110110100010 10111011010110110110111011011100011110011100110111010101111110110100101010101010111101010101010 00011010101010001010101011011010001010111011010110110110111011011100011110011100110111010101111 1101101001010101010101111010101010100001101010101000101010101101101000101011101101011011011011 1011011100011110011100110111010101111110110100101010101010111101010101010000110101010100010101 01011011010001010111011010110110110111011011100011110011100110111010101111110110100101010101010 11110101010101000011010101010001010101011011010001010111011010110110110111011011100011110011100 Etu Solution Day 2013 1101110101011111101101001010101010101111010101010100001101010101000101010101101101000101011101 10101101101101110110111000111100111001101110101011111101101001010101010101111010101010100001101 01010100010101010110110100010101110110101101101101110110111000111100111001101110101011111101101 PilotTV 前線媒體 馬志堅 0010101010101011110101010101000011010101010001010101011011010001010111011010110110110111011011 1000111100111001101110101011111101101001010101010101111010101010100001101010101000101010101101 10100010101110110101101101101110110111000111100111001101110101011111101101001010101010101111010 10101010000110101010100010101010110110100010101110110101101101101110110111000111100111001101110 1010111111011010010101010101011110101010101000011010101010001010101011011010001010111011010110 11011011101101110001111001110011011101010111111011010010101010101011110101010101000011010101010 00101010101101101000101011101101011011011011101101110001111001110011011101010111111011010010101 0101010111101010101010000110101010100010101010110110100010101110110101101101101110110111000111 1001110011011101010111111011010010101010101011110101010101000011010101010001010101011011010001 01011101101011011011011101101110001111001110011011101010111111011010010101010101011110101010101 00001101010101000101010101101101000101011101101011011011011101101110001111001110011011101010111 1110110100101010101010111101010101010000110101010100010101010110110100010101110110101101101101 11011011100011110011100110111010101111110110100101010101010111101010101010000110101010100010101 73 01011011010001010111011010110110110111011011100011110011100110111010101111110110100101010101010 看的更精準 ─ 目光行銷與 Big Data 的相遇
- 74. 3,953,948 是PilotTV每天平均有效的收視人次數 含金量: 99.99% Starbauk 7-11 , Family Mart s McDonald’s KRTC 74
- 75. 75
- 76. 0101010101010111101010101010000110101010100010101010110110100010101110110101101101101110110111 0001111001110011011101010111111011010010101010101011110101010101000011010101010001010101011011 01000101011101101011011011011101101110001111001110011011101010111111011010010101010101011110101 01010100001101010101000101010101101101000101011101101011011011011101101110001111001110011011101 0101111110110100101010101010111101010101010000110101010100010101010110110100010101110110101101 1011011101101110001111001111 目光行銷帶來的改變… Targeting 是傳統廣告沒有的概念! 數位趨勢在改變 找到對的TA是關鍵 樣本=母體 第2直覺 過去的媒體依賴統計 , 卻也隱藏缺失! 消費者打破了統計常規 , 能掌握 多元(多維度)的行為資料 , 將會 是決策者的關鍵第二直覺 資料即生意 PilotTV是前端資料的生產者+蒐集 者 , 資料 , 帶來了媒體革命! Big Data非新鮮事 在媒體產業中找到新的資料取向 , 並且擁 有資料才是王道 76
- 77. 當目光行銷專家遇到 Big Data 處理專家… 即時 多元 77
- 78. [PilotTV+Etu]一種值得期待的資訊系統架構 Audio/ Video Stream Service Images Action Track Recognitio n Logs Machine Logs ETL Hadoo p Adapt or Big Data Step HBase Pig Big Data Data Structure MapReduce Big Data Cascading Analytics Mahout Aster Data Metadata SCM Oviewer Hive Programme r Data Analyst Business Analyst Visualizatio n Teradata Location CRM HDFS Traditional Oracle Data Warehouse SQL Server / Data Mart PostgreSQL MySQL PilotTV+Et u Etu Appliance SAS BI PilotTV 78
- 79. 智慧的看板演化& PTV total Solution 79
- 80. 80
- 83. Etu，亞洲原生的 Hadoop Big Data 創新品牌 好好聽．好好看 我們 2014 再見 ENVISIONING THE BIG DATA FLOWS INTO BUSINESS VALUE taipei . beijing 83