SlideShare ist ein Scribd-Unternehmen logo
1 von 15
ビッグデータ解析とクラウドの関係
~なぜ今これほどまでにビッグデータ解析に注目が集まっているのか~

エフスタ会津 / JAWS-UG会津

石川 智史
自己紹介
石川 智史 (いしかわ さとし)
現職
• 株式会社シンク (会津営業部 兼 開発本部品質管理グループ)
• オープン系Webアプリケーション開発エンジニア

活動
• JAWS-UG会津
Amazon AWSを楽しく勉強するためのコミュニティ。

• エフスタ会津
ITエンジニアのためのスキルアップコミュニティ。

• Code For Aizu
会津のオープンデータ活用を促進するためのコミュニティ。
クラウドとは
クラウドコンピューティングのイメージ

いままでのホスティングサービスと何が違うの?
そもそもクラウドはアーキテクトが違う
従来型のデータセンター

クラウド型のデータセンター

クラウド型は
オンデマンドに構築できる!
スケールアップが容易!
クラウドの仕組みを最大限に生かすクラスタDB
RDB
(Oracle, SQLServer, MySql等 )

RDBはひとりで頑張る!

クラスタDB
(KVSやHadoop等)

クラスタDBはみんなで頑張る!
クラウドによる革新とは
サービスを安価に、安全に、安定して供給できる
クラウドによる革新
クラウドにしかできないこと
• 超巨大なクラスタをオンデマンドに構築できる
• 計算量が膨大なアルゴリズムを短時間で実行できる

無限のCPUコアを利用できること!
これが社会に対してクラウドが与えた大きなインパクト

Q ビッグデータが流行っているのはなぜ?
A クラウド技術により解析時間が大幅に短縮されたから
今、データマインニングの分野が熱い!
データマインニングとは
データマインニングのプロセス
data analyst
顧客データ
購買データ

データウェア
ハウス

調査データ

データウェアハウス
[DB]
・列指向型データベース
[クラウドサービス]
・Amazon Redshift
・Windows Azure SQL Server

BIツール

仮説を立てる
検証する
知見を得る

BI(Business Intelligence)ツール
・pentaho / Jaspersoft BI / R
データマインニングの変化
機械学習によるデータ解析手法が取り入れられるようになった
仮説を立てる

顧客データ
購買データ

データウェア
ハウス

BIツール

検証する
知見を得る

調査データ
行動ログ

Hadoop
SNSデータ

Hadoopクラスタ
[クラウドサービス]
・Amazon Elastic MapReduce
・Windows Azure HDInsight(10/28~)

機械学習
アルゴリズム

機械学習アルゴリズム

サービスに
即反映
Mahoutとは
Mahoutの概要
• Hadoop上で機械学習アルゴリズムを実行できるライブラリ

※ドラ○もんとか絶対無理!

Mahoutが扱うことのできる機械学習の分野
• レコメンデーション
• クラスタリング
• クラシフィケーション(分類器)
レコメンデーション
レコメンデーションとは
嗜好を推測し、ユーザー自身もまだ知らない関心のあるアイテムを見つけ
出す。

事例:あなたにおすすめの商品
クラスタリング
クラスタリングとは
多数の物事を、共通点を持つもの同士のクラスタにグループ化する。

事例:あなたにおすすめのユーザー

kmeans解析の可視化イメージ
クラシフィケーション(分類)
クラシフィケーションとは
ある物事がカテゴリにどの程度属するか、属さないのかを決定する。

事例:記事やメールの分類
IT3強の長期ビジョンは一致している!
グラフ検索

Siri

セマンティックサーチ

モバイル検索のビッグデータを獲得したい
2045年問題
Google検索エンジンの誕生
1998年。創立者であるラリー・ペイジとサーゲイ・ブリンがスケーラビリ
ティ可能なサーバアーキテクトを開発し、Googleの検索サービスがスター
トした。

2045

この年、機械が人間を超える

Weitere ähnliche Inhalte

Was ist angesagt?

データ分析基盤について
データ分析基盤についてデータ分析基盤について
データ分析基盤についてYuta Inamura
 
20190517 Spark+AI Summit2019最新レポート
20190517 Spark+AI Summit2019最新レポート20190517 Spark+AI Summit2019最新レポート
20190517 Spark+AI Summit2019最新レポートRyoma Nagata
 
テックヒルズ Microsoft Azureでソーシャルゲームを作ってみた話
テックヒルズ Microsoft Azureでソーシャルゲームを作ってみた話テックヒルズ Microsoft Azureでソーシャルゲームを作ってみた話
テックヒルズ Microsoft Azureでソーシャルゲームを作ってみた話Kazumi Hirose
 
実案件で見る データ分析用AWS基盤の構築方法 - Developers.IO 2017 (20170701)
実案件で見る データ分析用AWS基盤の構築方法 - Developers.IO 2017 (20170701)実案件で見る データ分析用AWS基盤の構築方法 - Developers.IO 2017 (20170701)
実案件で見る データ分析用AWS基盤の構築方法 - Developers.IO 2017 (20170701)Yosuke Katsuki
 
データ分析基盤を支えるエンジニアリング
データ分析基盤を支えるエンジニアリングデータ分析基盤を支えるエンジニアリング
データ分析基盤を支えるエンジニアリングRecruit Lifestyle Co., Ltd.
 
Alteryxの紹介とデモ
Alteryxの紹介とデモAlteryxの紹介とデモ
Alteryxの紹介とデモYosuke Katsuki
 
AI導入を丸投げしない強い組織にする人材教育のススメ
AI導入を丸投げしない強い組織にする人材教育のススメAI導入を丸投げしない強い組織にする人材教育のススメ
AI導入を丸投げしない強い組織にする人材教育のススメKSKKSKAnalyticsInc
 
2014/8/1 JAWS-UG名古屋CDP道場
2014/8/1 JAWS-UG名古屋CDP道場2014/8/1 JAWS-UG名古屋CDP道場
2014/8/1 JAWS-UG名古屋CDP道場義隆 川路
 
ビックデータ分析基盤の成⻑の軌跡
ビックデータ分析基盤の成⻑の軌跡ビックデータ分析基盤の成⻑の軌跡
ビックデータ分析基盤の成⻑の軌跡Recruit Lifestyle Co., Ltd.
 
熊本におけるクラウド導入 - 熊本クラウド語ろう会
熊本におけるクラウド導入 - 熊本クラウド語ろう会熊本におけるクラウド導入 - 熊本クラウド語ろう会
熊本におけるクラウド導入 - 熊本クラウド語ろう会Tsukasa Kato
 
Step functionsとaws batchでオーケストレートするイベントドリブンな機械学習基盤
Step functionsとaws batchでオーケストレートするイベントドリブンな機械学習基盤Step functionsとaws batchでオーケストレートするイベントドリブンな機械学習基盤
Step functionsとaws batchでオーケストレートするイベントドリブンな機械学習基盤Yu Yamada
 
Synapse lakedatabase
Synapse lakedatabaseSynapse lakedatabase
Synapse lakedatabaseRyoma Nagata
 
Databricks の始め方
Databricks の始め方Databricks の始め方
Databricks の始め方Ryoma Nagata
 
AI & Deep Learning on AWS at CTO Night&Day 2016 Winter
AI & Deep Learning on AWS at CTO Night&Day 2016 WinterAI & Deep Learning on AWS at CTO Night&Day 2016 Winter
AI & Deep Learning on AWS at CTO Night&Day 2016 WinterYasuhiro Matsuo
 
Power Query Online
Power Query OnlinePower Query Online
Power Query OnlineRyoma Nagata
 
データプランナーによるデータ系施策について
データプランナーによるデータ系施策についてデータプランナーによるデータ系施策について
データプランナーによるデータ系施策についてRecruit Lifestyle Co., Ltd.
 
「サーバレスの薄い本」からの1年 #serverlesstokyo
「サーバレスの薄い本」からの1年 #serverlesstokyo「サーバレスの薄い本」からの1年 #serverlesstokyo
「サーバレスの薄い本」からの1年 #serverlesstokyoMasahiro NAKAYAMA
 
データ基盤の従来~最新の考え方とSynapse Analyticsでの実現
データ基盤の従来~最新の考え方とSynapse Analyticsでの実現データ基盤の従来~最新の考え方とSynapse Analyticsでの実現
データ基盤の従来~最新の考え方とSynapse Analyticsでの実現Ryoma Nagata
 
201105クラウドexpo資料
201105クラウドexpo資料201105クラウドexpo資料
201105クラウドexpo資料Yuji Kono
 
Step functionsとaws batchでオーケストレートするイベントドリブンな機械学習基盤
Step functionsとaws batchでオーケストレートするイベントドリブンな機械学習基盤Step functionsとaws batchでオーケストレートするイベントドリブンな機械学習基盤
Step functionsとaws batchでオーケストレートするイベントドリブンな機械学習基盤Recruit Lifestyle Co., Ltd.
 

Was ist angesagt? (20)

データ分析基盤について
データ分析基盤についてデータ分析基盤について
データ分析基盤について
 
20190517 Spark+AI Summit2019最新レポート
20190517 Spark+AI Summit2019最新レポート20190517 Spark+AI Summit2019最新レポート
20190517 Spark+AI Summit2019最新レポート
 
テックヒルズ Microsoft Azureでソーシャルゲームを作ってみた話
テックヒルズ Microsoft Azureでソーシャルゲームを作ってみた話テックヒルズ Microsoft Azureでソーシャルゲームを作ってみた話
テックヒルズ Microsoft Azureでソーシャルゲームを作ってみた話
 
実案件で見る データ分析用AWS基盤の構築方法 - Developers.IO 2017 (20170701)
実案件で見る データ分析用AWS基盤の構築方法 - Developers.IO 2017 (20170701)実案件で見る データ分析用AWS基盤の構築方法 - Developers.IO 2017 (20170701)
実案件で見る データ分析用AWS基盤の構築方法 - Developers.IO 2017 (20170701)
 
データ分析基盤を支えるエンジニアリング
データ分析基盤を支えるエンジニアリングデータ分析基盤を支えるエンジニアリング
データ分析基盤を支えるエンジニアリング
 
Alteryxの紹介とデモ
Alteryxの紹介とデモAlteryxの紹介とデモ
Alteryxの紹介とデモ
 
AI導入を丸投げしない強い組織にする人材教育のススメ
AI導入を丸投げしない強い組織にする人材教育のススメAI導入を丸投げしない強い組織にする人材教育のススメ
AI導入を丸投げしない強い組織にする人材教育のススメ
 
2014/8/1 JAWS-UG名古屋CDP道場
2014/8/1 JAWS-UG名古屋CDP道場2014/8/1 JAWS-UG名古屋CDP道場
2014/8/1 JAWS-UG名古屋CDP道場
 
ビックデータ分析基盤の成⻑の軌跡
ビックデータ分析基盤の成⻑の軌跡ビックデータ分析基盤の成⻑の軌跡
ビックデータ分析基盤の成⻑の軌跡
 
熊本におけるクラウド導入 - 熊本クラウド語ろう会
熊本におけるクラウド導入 - 熊本クラウド語ろう会熊本におけるクラウド導入 - 熊本クラウド語ろう会
熊本におけるクラウド導入 - 熊本クラウド語ろう会
 
Step functionsとaws batchでオーケストレートするイベントドリブンな機械学習基盤
Step functionsとaws batchでオーケストレートするイベントドリブンな機械学習基盤Step functionsとaws batchでオーケストレートするイベントドリブンな機械学習基盤
Step functionsとaws batchでオーケストレートするイベントドリブンな機械学習基盤
 
Synapse lakedatabase
Synapse lakedatabaseSynapse lakedatabase
Synapse lakedatabase
 
Databricks の始め方
Databricks の始め方Databricks の始め方
Databricks の始め方
 
AI & Deep Learning on AWS at CTO Night&Day 2016 Winter
AI & Deep Learning on AWS at CTO Night&Day 2016 WinterAI & Deep Learning on AWS at CTO Night&Day 2016 Winter
AI & Deep Learning on AWS at CTO Night&Day 2016 Winter
 
Power Query Online
Power Query OnlinePower Query Online
Power Query Online
 
データプランナーによるデータ系施策について
データプランナーによるデータ系施策についてデータプランナーによるデータ系施策について
データプランナーによるデータ系施策について
 
「サーバレスの薄い本」からの1年 #serverlesstokyo
「サーバレスの薄い本」からの1年 #serverlesstokyo「サーバレスの薄い本」からの1年 #serverlesstokyo
「サーバレスの薄い本」からの1年 #serverlesstokyo
 
データ基盤の従来~最新の考え方とSynapse Analyticsでの実現
データ基盤の従来~最新の考え方とSynapse Analyticsでの実現データ基盤の従来~最新の考え方とSynapse Analyticsでの実現
データ基盤の従来~最新の考え方とSynapse Analyticsでの実現
 
201105クラウドexpo資料
201105クラウドexpo資料201105クラウドexpo資料
201105クラウドexpo資料
 
Step functionsとaws batchでオーケストレートするイベントドリブンな機械学習基盤
Step functionsとaws batchでオーケストレートするイベントドリブンな機械学習基盤Step functionsとaws batchでオーケストレートするイベントドリブンな機械学習基盤
Step functionsとaws batchでオーケストレートするイベントドリブンな機械学習基盤
 

Ähnlich wie ビッグデータ解析とクラウドの関係

クラウド座談会資料
クラウド座談会資料クラウド座談会資料
クラウド座談会資料知礼 八子
 
[Developers Festa Sapporo 2018] Azure AI ~Microsoft AzureでのAI開発のイマ~
[Developers Festa Sapporo 2018] Azure AI ~Microsoft AzureでのAI開発のイマ~[Developers Festa Sapporo 2018] Azure AI ~Microsoft AzureでのAI開発のイマ~
[Developers Festa Sapporo 2018] Azure AI ~Microsoft AzureでのAI開発のイマ~Naoki (Neo) SATO
 
クラウド運用3足の草鞋151102
クラウド運用3足の草鞋151102クラウド運用3足の草鞋151102
クラウド運用3足の草鞋151102Keiichi Hashimoto
 
20140829 山形でJAWS-UGをやって困った2つのこと
20140829 山形でJAWS-UGをやって困った2つのこと20140829 山形でJAWS-UGをやって困った2つのこと
20140829 山形でJAWS-UGをやって困った2つのことSeiji Akatsuka
 
【IVS CTO Night & Day】AWSにおけるビッグデータ活用
【IVS CTO Night & Day】AWSにおけるビッグデータ活用【IVS CTO Night & Day】AWSにおけるビッグデータ活用
【IVS CTO Night & Day】AWSにおけるビッグデータ活用Amazon Web Services Japan
 
エフスタ東京Vol3 ビッグデータ解析手法を用いてソーシャルメディアの評価分析を実現する
エフスタ東京Vol3 ビッグデータ解析手法を用いてソーシャルメディアの評価分析を実現するエフスタ東京Vol3 ビッグデータ解析手法を用いてソーシャルメディアの評価分析を実現する
エフスタ東京Vol3 ビッグデータ解析手法を用いてソーシャルメディアの評価分析を実現するSatoshi Ishikawa
 
タンジブルなモノづくりの過程はソフトウェア開発でも共通する
タンジブルなモノづくりの過程はソフトウェア開発でも共通するタンジブルなモノづくりの過程はソフトウェア開発でも共通する
タンジブルなモノづくりの過程はソフトウェア開発でも共通するRyoma Amakasu
 
20130126 mtddcms
20130126 mtddcms20130126 mtddcms
20130126 mtddcmsyokonaka
 
現場開発者視点で答えるWindows Azure
現場開発者視点で答えるWindows Azure現場開発者視点で答えるWindows Azure
現場開発者視点で答えるWindows AzureKeiichi Hashimoto
 
APIを叩くだけでない、Deep Learning on AWS で自分だけの学習モデルを作ろう! by JAWS-UG AI支部
APIを叩くだけでない、Deep Learning on AWS で自分だけの学習モデルを作ろう! by JAWS-UG AI支部APIを叩くだけでない、Deep Learning on AWS で自分だけの学習モデルを作ろう! by JAWS-UG AI支部
APIを叩くだけでない、Deep Learning on AWS で自分だけの学習モデルを作ろう! by JAWS-UG AI支部Daisuke Nagao
 
基調講演「データのグループウェア化」
基調講演「データのグループウェア化」基調講演「データのグループウェア化」
基調講演「データのグループウェア化」Cybozucommunity
 
求められているエンジニアのナレッジってなに?
求められているエンジニアのナレッジってなに?求められているエンジニアのナレッジってなに?
求められているエンジニアのナレッジってなに?MKT International Inc.
 
求められているエンジニアのナレッジってなに?
求められているエンジニアのナレッジってなに?求められているエンジニアのナレッジってなに?
求められているエンジニアのナレッジってなに?MKT International Inc.
 
クラウドネイティブなアーキテクチャでサクサク解析
クラウドネイティブなアーキテクチャでサクサク解析クラウドネイティブなアーキテクチャでサクサク解析
クラウドネイティブなアーキテクチャでサクサク解析Yuta Imai
 
JAWS-UG三都物語_企業でのAWS導入のエントリーポイント
JAWS-UG三都物語_企業でのAWS導入のエントリーポイントJAWS-UG三都物語_企業でのAWS導入のエントリーポイント
JAWS-UG三都物語_企業でのAWS導入のエントリーポイントToshiyuki Konparu
 
わんくま東京勉強会#46 Azureセッション資料
わんくま東京勉強会#46 Azureセッション資料わんくま東京勉強会#46 Azureセッション資料
わんくま東京勉強会#46 Azureセッション資料Shinichiro Isago
 
わんくま東京勉強会#46 Azureセッション資料
わんくま東京勉強会#46 Azureセッション資料わんくま東京勉強会#46 Azureセッション資料
わんくま東京勉強会#46 Azureセッション資料guest628c07
 
JAZUG Nagoya Windows Azure Update 20140301
JAZUG Nagoya Windows Azure Update 20140301JAZUG Nagoya Windows Azure Update 20140301
JAZUG Nagoya Windows Azure Update 20140301Ayako Omori
 
第3回企業Webシステム開発セミナー「業務システムにHTML5を上手に取り入れるためには?」
第3回企業Webシステム開発セミナー「業務システムにHTML5を上手に取り入れるためには?」第3回企業Webシステム開発セミナー「業務システムにHTML5を上手に取り入れるためには?」
第3回企業Webシステム開発セミナー「業務システムにHTML5を上手に取り入れるためには?」Osamu Shimoda
 

Ähnlich wie ビッグデータ解析とクラウドの関係 (20)

クラウド座談会資料
クラウド座談会資料クラウド座談会資料
クラウド座談会資料
 
[Developers Festa Sapporo 2018] Azure AI ~Microsoft AzureでのAI開発のイマ~
[Developers Festa Sapporo 2018] Azure AI ~Microsoft AzureでのAI開発のイマ~[Developers Festa Sapporo 2018] Azure AI ~Microsoft AzureでのAI開発のイマ~
[Developers Festa Sapporo 2018] Azure AI ~Microsoft AzureでのAI開発のイマ~
 
クラウド運用3足の草鞋151102
クラウド運用3足の草鞋151102クラウド運用3足の草鞋151102
クラウド運用3足の草鞋151102
 
20140829 山形でJAWS-UGをやって困った2つのこと
20140829 山形でJAWS-UGをやって困った2つのこと20140829 山形でJAWS-UGをやって困った2つのこと
20140829 山形でJAWS-UGをやって困った2つのこと
 
【IVS CTO Night & Day】AWSにおけるビッグデータ活用
【IVS CTO Night & Day】AWSにおけるビッグデータ活用【IVS CTO Night & Day】AWSにおけるビッグデータ活用
【IVS CTO Night & Day】AWSにおけるビッグデータ活用
 
エフスタ東京Vol3 ビッグデータ解析手法を用いてソーシャルメディアの評価分析を実現する
エフスタ東京Vol3 ビッグデータ解析手法を用いてソーシャルメディアの評価分析を実現するエフスタ東京Vol3 ビッグデータ解析手法を用いてソーシャルメディアの評価分析を実現する
エフスタ東京Vol3 ビッグデータ解析手法を用いてソーシャルメディアの評価分析を実現する
 
タンジブルなモノづくりの過程はソフトウェア開発でも共通する
タンジブルなモノづくりの過程はソフトウェア開発でも共通するタンジブルなモノづくりの過程はソフトウェア開発でも共通する
タンジブルなモノづくりの過程はソフトウェア開発でも共通する
 
20130126 mtddcms
20130126 mtddcms20130126 mtddcms
20130126 mtddcms
 
現場開発者視点で答えるWindows Azure
現場開発者視点で答えるWindows Azure現場開発者視点で答えるWindows Azure
現場開発者視点で答えるWindows Azure
 
APIを叩くだけでない、Deep Learning on AWS で自分だけの学習モデルを作ろう! by JAWS-UG AI支部
APIを叩くだけでない、Deep Learning on AWS で自分だけの学習モデルを作ろう! by JAWS-UG AI支部APIを叩くだけでない、Deep Learning on AWS で自分だけの学習モデルを作ろう! by JAWS-UG AI支部
APIを叩くだけでない、Deep Learning on AWS で自分だけの学習モデルを作ろう! by JAWS-UG AI支部
 
基調講演「データのグループウェア化」
基調講演「データのグループウェア化」基調講演「データのグループウェア化」
基調講演「データのグループウェア化」
 
Keynote
KeynoteKeynote
Keynote
 
求められているエンジニアのナレッジってなに?
求められているエンジニアのナレッジってなに?求められているエンジニアのナレッジってなに?
求められているエンジニアのナレッジってなに?
 
求められているエンジニアのナレッジってなに?
求められているエンジニアのナレッジってなに?求められているエンジニアのナレッジってなに?
求められているエンジニアのナレッジってなに?
 
クラウドネイティブなアーキテクチャでサクサク解析
クラウドネイティブなアーキテクチャでサクサク解析クラウドネイティブなアーキテクチャでサクサク解析
クラウドネイティブなアーキテクチャでサクサク解析
 
JAWS-UG三都物語_企業でのAWS導入のエントリーポイント
JAWS-UG三都物語_企業でのAWS導入のエントリーポイントJAWS-UG三都物語_企業でのAWS導入のエントリーポイント
JAWS-UG三都物語_企業でのAWS導入のエントリーポイント
 
わんくま東京勉強会#46 Azureセッション資料
わんくま東京勉強会#46 Azureセッション資料わんくま東京勉強会#46 Azureセッション資料
わんくま東京勉強会#46 Azureセッション資料
 
わんくま東京勉強会#46 Azureセッション資料
わんくま東京勉強会#46 Azureセッション資料わんくま東京勉強会#46 Azureセッション資料
わんくま東京勉強会#46 Azureセッション資料
 
JAZUG Nagoya Windows Azure Update 20140301
JAZUG Nagoya Windows Azure Update 20140301JAZUG Nagoya Windows Azure Update 20140301
JAZUG Nagoya Windows Azure Update 20140301
 
第3回企業Webシステム開発セミナー「業務システムにHTML5を上手に取り入れるためには?」
第3回企業Webシステム開発セミナー「業務システムにHTML5を上手に取り入れるためには?」第3回企業Webシステム開発セミナー「業務システムにHTML5を上手に取り入れるためには?」
第3回企業Webシステム開発セミナー「業務システムにHTML5を上手に取り入れるためには?」
 

ビッグデータ解析とクラウドの関係