Suche senden
Hochladen
Awsとrubyで作るビッグデータ解析の裏側
•
6 gefällt mir
•
4,592 views
Shohei Kobayashi
Folgen
第十七回Creators MeetUp 発表資料。
Weniger lesen
Mehr lesen
Daten & Analysen
Melden
Teilen
Melden
Teilen
1 von 28
Jetzt herunterladen
Downloaden Sie, um offline zu lesen
Empfohlen
ラズパイのおすすめレシピ
ラズパイのおすすめレシピ
ishikawa akira
CloudGarage Developer's Meetup
CloudGarage Developer's Meetup
Masashi Hisatsugu
Introduction of ios-chart in oss-labs#3
Introduction of ios-chart in oss-labs#3
Daisuke Yamashita
Yokohama North Meetup #2
Yokohama North Meetup #2
Kazuaki KURIU
Oss written in swift
Oss written in swift
Yuki Asai
2013年ITトレンドを振り返る
2013年ITトレンドを振り返る
lexues
できることから始めるOss活動
できることから始めるOss活動
Motoki Narita
スキル開発100チャレンジ 中間報告 / JAWS DAYS 2019 懇親会LT
スキル開発100チャレンジ 中間報告 / JAWS DAYS 2019 懇親会LT
Yuka Matsuba
Empfohlen
ラズパイのおすすめレシピ
ラズパイのおすすめレシピ
ishikawa akira
CloudGarage Developer's Meetup
CloudGarage Developer's Meetup
Masashi Hisatsugu
Introduction of ios-chart in oss-labs#3
Introduction of ios-chart in oss-labs#3
Daisuke Yamashita
Yokohama North Meetup #2
Yokohama North Meetup #2
Kazuaki KURIU
Oss written in swift
Oss written in swift
Yuki Asai
2013年ITトレンドを振り返る
2013年ITトレンドを振り返る
lexues
できることから始めるOss活動
できることから始めるOss活動
Motoki Narita
スキル開発100チャレンジ 中間報告 / JAWS DAYS 2019 懇親会LT
スキル開発100チャレンジ 中間報告 / JAWS DAYS 2019 懇親会LT
Yuka Matsuba
20140621 CreatorsMeetUp17
20140621 CreatorsMeetUp17
Seigo Tanaka
8つの魔法の習得 -RとRubyによるデータ解析入門より-
8つの魔法の習得 -RとRubyによるデータ解析入門より-
Yuki Shimizu
わかると楽しいInfrastructure as code
わかると楽しいInfrastructure as code
Shohei Kobayashi
Rubyによるデータ解析
Rubyによるデータ解析
Shugo Maeda
PythonとRによるデータ分析環境の構築と機械学習によるデータ認識
PythonとRによるデータ分析環境の構築と機械学習によるデータ認識
Katsuhiro Morishita
インフラ・サーバ技術の Days of Future Past
インフラ・サーバ技術の Days of Future Past
Shohei Kobayashi
Ruby on vim yokohama.vim発表資料
Ruby on vim yokohama.vim発表資料
Shohei Kobayashi
落ち込んだ気分を盛り上げるための10のこと
落ち込んだ気分を盛り上げるための10のこと
Kyoko Kojima
設立1ヶ月の会社に入社して考えたこと 苦手タスクを最速でこなす方法
設立1ヶ月の会社に入社して考えたこと 苦手タスクを最速でこなす方法
Kyoko Kojima
Classboxes, nested methods, and real private methods
Classboxes, nested methods, and real private methods
Shugo Maeda
エフスタ東京Vol3 ビッグデータ解析手法を用いてソーシャルメディアの評価分析を実現する
エフスタ東京Vol3 ビッグデータ解析手法を用いてソーシャルメディアの評価分析を実現する
Satoshi Ishikawa
人狼知能プログラミング演習資料2015
人狼知能プログラミング演習資料2015
Kosuke Shinoda
はじめてのDNS
はじめてのDNS
Shohei Kobayashi
【NYSOL】ビッグデータをシンプル・高速に!日本発の大規模データ解析用OSS
【NYSOL】ビッグデータをシンプル・高速に!日本発の大規模データ解析用OSS
NYSOL
Rubyで始めるWebスクレイピング
Rubyで始めるWebスクレイピング
Takuro Sasaki
Rubyで作るクローラー Ruby crawler
Rubyで作るクローラー Ruby crawler
Takuro Sasaki
米国でのビッグデータビジネスの動向
米国でのビッグデータビジネスの動向
Takatsugu Kobayashi
統計Python2
統計Python2
Norihito YAMAKAWA
New Technology Trends and Effects on Business
New Technology Trends and Effects on Business
Rie Yamanaka
Session4:「先進ビッグデータ応用を支える機械学習に求められる新技術」/比戸将平
Session4:「先進ビッグデータ応用を支える機械学習に求められる新技術」/比戸将平
Preferred Networks
SwiftによるiOS開発再入門
SwiftによるiOS開発再入門
Tomoki Hasegawa
iphone5 発表イベント 最速まとめLT
iphone5 発表イベント 最速まとめLT
VOYAGE GROUP
Weitere ähnliche Inhalte
Andere mochten auch
20140621 CreatorsMeetUp17
20140621 CreatorsMeetUp17
Seigo Tanaka
8つの魔法の習得 -RとRubyによるデータ解析入門より-
8つの魔法の習得 -RとRubyによるデータ解析入門より-
Yuki Shimizu
わかると楽しいInfrastructure as code
わかると楽しいInfrastructure as code
Shohei Kobayashi
Rubyによるデータ解析
Rubyによるデータ解析
Shugo Maeda
PythonとRによるデータ分析環境の構築と機械学習によるデータ認識
PythonとRによるデータ分析環境の構築と機械学習によるデータ認識
Katsuhiro Morishita
インフラ・サーバ技術の Days of Future Past
インフラ・サーバ技術の Days of Future Past
Shohei Kobayashi
Ruby on vim yokohama.vim発表資料
Ruby on vim yokohama.vim発表資料
Shohei Kobayashi
落ち込んだ気分を盛り上げるための10のこと
落ち込んだ気分を盛り上げるための10のこと
Kyoko Kojima
設立1ヶ月の会社に入社して考えたこと 苦手タスクを最速でこなす方法
設立1ヶ月の会社に入社して考えたこと 苦手タスクを最速でこなす方法
Kyoko Kojima
Classboxes, nested methods, and real private methods
Classboxes, nested methods, and real private methods
Shugo Maeda
エフスタ東京Vol3 ビッグデータ解析手法を用いてソーシャルメディアの評価分析を実現する
エフスタ東京Vol3 ビッグデータ解析手法を用いてソーシャルメディアの評価分析を実現する
Satoshi Ishikawa
人狼知能プログラミング演習資料2015
人狼知能プログラミング演習資料2015
Kosuke Shinoda
はじめてのDNS
はじめてのDNS
Shohei Kobayashi
【NYSOL】ビッグデータをシンプル・高速に!日本発の大規模データ解析用OSS
【NYSOL】ビッグデータをシンプル・高速に!日本発の大規模データ解析用OSS
NYSOL
Rubyで始めるWebスクレイピング
Rubyで始めるWebスクレイピング
Takuro Sasaki
Rubyで作るクローラー Ruby crawler
Rubyで作るクローラー Ruby crawler
Takuro Sasaki
米国でのビッグデータビジネスの動向
米国でのビッグデータビジネスの動向
Takatsugu Kobayashi
統計Python2
統計Python2
Norihito YAMAKAWA
New Technology Trends and Effects on Business
New Technology Trends and Effects on Business
Rie Yamanaka
Session4:「先進ビッグデータ応用を支える機械学習に求められる新技術」/比戸将平
Session4:「先進ビッグデータ応用を支える機械学習に求められる新技術」/比戸将平
Preferred Networks
Andere mochten auch
(20)
20140621 CreatorsMeetUp17
20140621 CreatorsMeetUp17
8つの魔法の習得 -RとRubyによるデータ解析入門より-
8つの魔法の習得 -RとRubyによるデータ解析入門より-
わかると楽しいInfrastructure as code
わかると楽しいInfrastructure as code
Rubyによるデータ解析
Rubyによるデータ解析
PythonとRによるデータ分析環境の構築と機械学習によるデータ認識
PythonとRによるデータ分析環境の構築と機械学習によるデータ認識
インフラ・サーバ技術の Days of Future Past
インフラ・サーバ技術の Days of Future Past
Ruby on vim yokohama.vim発表資料
Ruby on vim yokohama.vim発表資料
落ち込んだ気分を盛り上げるための10のこと
落ち込んだ気分を盛り上げるための10のこと
設立1ヶ月の会社に入社して考えたこと 苦手タスクを最速でこなす方法
設立1ヶ月の会社に入社して考えたこと 苦手タスクを最速でこなす方法
Classboxes, nested methods, and real private methods
Classboxes, nested methods, and real private methods
エフスタ東京Vol3 ビッグデータ解析手法を用いてソーシャルメディアの評価分析を実現する
エフスタ東京Vol3 ビッグデータ解析手法を用いてソーシャルメディアの評価分析を実現する
人狼知能プログラミング演習資料2015
人狼知能プログラミング演習資料2015
はじめてのDNS
はじめてのDNS
【NYSOL】ビッグデータをシンプル・高速に!日本発の大規模データ解析用OSS
【NYSOL】ビッグデータをシンプル・高速に!日本発の大規模データ解析用OSS
Rubyで始めるWebスクレイピング
Rubyで始めるWebスクレイピング
Rubyで作るクローラー Ruby crawler
Rubyで作るクローラー Ruby crawler
米国でのビッグデータビジネスの動向
米国でのビッグデータビジネスの動向
統計Python2
統計Python2
New Technology Trends and Effects on Business
New Technology Trends and Effects on Business
Session4:「先進ビッグデータ応用を支える機械学習に求められる新技術」/比戸将平
Session4:「先進ビッグデータ応用を支える機械学習に求められる新技術」/比戸将平
Ähnlich wie Awsとrubyで作るビッグデータ解析の裏側
SwiftによるiOS開発再入門
SwiftによるiOS開発再入門
Tomoki Hasegawa
iphone5 発表イベント 最速まとめLT
iphone5 発表イベント 最速まとめLT
VOYAGE GROUP
iphone5 発表イベント 速報まとめ
iphone5 発表イベント 速報まとめ
VOYAGE GROUP
オプショナル型。〜なんとなく付ける ! ? 撲滅〜 改訂版
オプショナル型。〜なんとなく付ける ! ? 撲滅〜 改訂版
Tomoki Hasegawa
20150312 html5とか勉強会-lt-開発者に知ってほしいi pv6のこと
20150312 html5とか勉強会-lt-開発者に知ってほしいi pv6のこと
v6app
iOS グラフィックス Tips
iOS グラフィックス Tips
Kaname Noto
はじめてのiOSアプリ開発 Swift対応版
はじめてのiOSアプリ開発 Swift対応版
Tomoki Hasegawa
20180914 FiFiC
20180914 FiFiC
祥平 中川
20120316 designerworkshoppublished
20120316 designerworkshoppublished
Yoichiro Sakurai
サイボウズのオープンソースへの取り組み - OSC 2018 Osaka
サイボウズのオープンソースへの取り組み - OSC 2018 Osaka
Yuki Okada
Swiftビギナーズ勉強会 第1回 @Co-Edo
Swiftビギナーズ勉強会 第1回 @Co-Edo
Megumi Otani(Czenhe)
iOSアプリ開発で意識すると役立ちそうな「つなぎ目」の部分について
iOSアプリ開発で意識すると役立ちそうな「つなぎ目」の部分について
Fumiya Sakai
明日のためのBaaS - BaaS for tomorrow
明日のためのBaaS - BaaS for tomorrow
Kaname Noto
第5回 Machine Learning 15minutes! 「オフラインデータがAI発展の鍵になる」
第5回 Machine Learning 15minutes! 「オフラインデータがAI発展の鍵になる」
Shigeyuki Kameda
IkaLog_FPGAStartup1
IkaLog_FPGAStartup1
Takeshi HASEGAWA
アプリ開発の境界問題を支えるツール
アプリ開発の境界問題を支えるツール
Keishi Hosoba
20120413 nestakabaneworkshop
20120413 nestakabaneworkshop
Yoichiro Sakurai
デザイナー→Webエンジニア→iOSエンジニアと渡り歩いた僕なりのSwiftとの向き合い方と生かす戦略
デザイナー→Webエンジニア→iOSエンジニアと渡り歩いた僕なりのSwiftとの向き合い方と生かす戦略
Fumiya Sakai
【Ltech#5】機械学習を用いた間取り画像の自動解析
【Ltech#5】機械学習を用いた間取り画像の自動解析
LIFULL Co., Ltd.
Ruby会議08 倉貫発表資料
Ruby会議08 倉貫発表資料
Yoshihito Kuranuki
Ähnlich wie Awsとrubyで作るビッグデータ解析の裏側
(20)
SwiftによるiOS開発再入門
SwiftによるiOS開発再入門
iphone5 発表イベント 最速まとめLT
iphone5 発表イベント 最速まとめLT
iphone5 発表イベント 速報まとめ
iphone5 発表イベント 速報まとめ
オプショナル型。〜なんとなく付ける ! ? 撲滅〜 改訂版
オプショナル型。〜なんとなく付ける ! ? 撲滅〜 改訂版
20150312 html5とか勉強会-lt-開発者に知ってほしいi pv6のこと
20150312 html5とか勉強会-lt-開発者に知ってほしいi pv6のこと
iOS グラフィックス Tips
iOS グラフィックス Tips
はじめてのiOSアプリ開発 Swift対応版
はじめてのiOSアプリ開発 Swift対応版
20180914 FiFiC
20180914 FiFiC
20120316 designerworkshoppublished
20120316 designerworkshoppublished
サイボウズのオープンソースへの取り組み - OSC 2018 Osaka
サイボウズのオープンソースへの取り組み - OSC 2018 Osaka
Swiftビギナーズ勉強会 第1回 @Co-Edo
Swiftビギナーズ勉強会 第1回 @Co-Edo
iOSアプリ開発で意識すると役立ちそうな「つなぎ目」の部分について
iOSアプリ開発で意識すると役立ちそうな「つなぎ目」の部分について
明日のためのBaaS - BaaS for tomorrow
明日のためのBaaS - BaaS for tomorrow
第5回 Machine Learning 15minutes! 「オフラインデータがAI発展の鍵になる」
第5回 Machine Learning 15minutes! 「オフラインデータがAI発展の鍵になる」
IkaLog_FPGAStartup1
IkaLog_FPGAStartup1
アプリ開発の境界問題を支えるツール
アプリ開発の境界問題を支えるツール
20120413 nestakabaneworkshop
20120413 nestakabaneworkshop
デザイナー→Webエンジニア→iOSエンジニアと渡り歩いた僕なりのSwiftとの向き合い方と生かす戦略
デザイナー→Webエンジニア→iOSエンジニアと渡り歩いた僕なりのSwiftとの向き合い方と生かす戦略
【Ltech#5】機械学習を用いた間取り画像の自動解析
【Ltech#5】機械学習を用いた間取り画像の自動解析
Ruby会議08 倉貫発表資料
Ruby会議08 倉貫発表資料
Awsとrubyで作るビッグデータ解析の裏側
1.
AWSとRUBYで作る ビッグデータ解析の裏側 @srockstyle / Shohei
Kobayashi ! Twitter : https://twitter.com/srockstyle Facebook : https://www.facebook.com/srockstyle Github : https://github.com/srockstyle
2.
15 MINITE 収まるように 頑張ります
3.
WHO ARE YOU? 「あんた誰や!?」
4.
Shohei Kobayashi Mind Palette.co.ltd. Backend
ServerSide Engineer 仕事はAWS,Ruby漬け 家ではPHP,Swift漬け
5.
TODAY’S THEME スマホアプリの データ解析インフラについて
6.
SNAPEEEって? • 写真共有アプリから新しいメディアへ と進化しているF1層の女性向けスマホ アプリ。 • iOS版とAndroid版があるよ。 •
この世に生を受けて四年目。 • 「カワイイを世界に届ける」がテーマ!
7.
日本からアジアへ アジアから世界へ 世界進出のために蓄積されるビッグデータ解析は不可欠 JAPAN TAIWAN CHINA HONGKONG SINGAPOLE TAILAND ….AND MORE!
8.
SNAPEEEのデータ解析基盤
9.
データ解析周りの用語 • データウェアハウス:集めたデータを 入れておくところ • データマート:解析結果をいれておく ところ •
MapReduce:たくさんのコンピュータで 巨大なデータを解析するプログラミン グモデル。
10.
見ての通りAWSばっかりだよ! AWS万歳!ヽ(‘ ∇‘ )ノ AWS万歳!ヽ(‘
∇‘ )ノ AWS万歳!ヽ(‘ ∇‘ )ノ
11.
解析基盤でAWSを選んだ理由
12.
• 解析結果の格納・検索はRedshiftが超速い • Hadoopクラスタとジョブの追加・構築・増 減がAPI経由で楽に可能 •
API経由でログの送信・解析・収納まで可能
13.
それでこうなった
14.
AWSまみれ AWS様々
15.
司令塔サーバの話 ○こいつ
16.
RUBY ON RAILS AND AWS-SDK
FOR RUBY
17.
なんでRUBYを選んだか? • 書いてて楽しいから • Java、PHPもみんな書けたけど、JavaとPHPは書いてて数ヶ月 で飽きたから(弊社エンジニア陣の主観 •
Rails使っての開発効率の高さ! • 全社でJavaからRubyへの移行を進めており、サーバ構築に Chefの導入もあって言語の統一化を進めていきたかったから
18.
ちょっと待った! ○あれっ……
19.
Q:HADOOPってJAVAじゃね? MAP REDUCEって JAVA以外使えないんじゃ……
20.
そんなあなたに! HADOOP-STREAMING がオススメ!
21.
AWSで HADOOP-STREAMING! • AWS-SDKからJob-Flowスクリプト流し込めばHadoop- Streamingでデータ解析が可能。 • S3上にログの設置→Job実行までをRails内のバッチ処 理で自動化。 •
標準入力/標準出力でHadoopとやりとりすればよい のでMapper&Reducerも全部Rubyスクリプト。
22.
流れ
23.
JOB FLOW設定
24.
集計後データは…… • S3の結果ファイルをRedShiftへ投入 • ダウンロードしたファイルをRで解析 •
RedShift上のデータを別バッチで再利用&フ ロントエンドでRailsのActive Recordで呼び出 してグラフ化!
25.
おまけ
26.
弊社ではエンジニア募集中だよ! Ruby、Rails、AWS、iOS、Android、グロースハック そんなのに興味あるひとはぜひお声かけください ! Twitterで@srockstyleまで!
27.
RAILS GIRLも大歓迎! F1層の女性向けアプリなので 女子のハートがわかるRails Girlも大募集です! ! ! Twitterで@srockstyleまで!
28.
ご清聴ありがとうございました! 「“カワイイ”を世界に」
Jetzt herunterladen