Suche senden
Hochladen
#cwt2016 Cloudera Managerを用いた Hadoop のトラブルシューティング
•
4 gefällt mir
•
3,001 views
Cloudera Japan
Folgen
Cloudera World Tokyo 2016 (http://www.clouderaworldtokyo.com/) での講演内容です
Weniger lesen
Mehr lesen
Daten & Analysen
Melden
Teilen
Melden
Teilen
1 von 66
Jetzt herunterladen
Downloaden Sie, um offline zu lesen
Empfohlen
Cloud Native Hadoop #cwt2016
Cloud Native Hadoop #cwt2016
Cloudera Japan
HBase Meetup Tokyo Summer 2015 #hbasejp
HBase Meetup Tokyo Summer 2015 #hbasejp
Cloudera Japan
Cloudera in the Cloud #CWT2017
Cloudera in the Cloud #CWT2017
Cloudera Japan
Hadoopビッグデータ基盤の歴史を振り返る #cwt2015
Hadoopビッグデータ基盤の歴史を振り返る #cwt2015
Cloudera Japan
G-Tech2015 Hadoop/Sparkを中核としたビッグデータ基盤_20151006
G-Tech2015 Hadoop/Sparkを中核としたビッグデータ基盤_20151006
Cloudera Japan
HBase活用事例 #hbase_ca
HBase活用事例 #hbase_ca
Cloudera Japan
Clouderaが提供するエンタープライズ向け運用、データ管理ツールの使い方 #CW2017
Clouderaが提供するエンタープライズ向け運用、データ管理ツールの使い方 #CW2017
Cloudera Japan
PCIコンプライアンスに向けたビジネス指針〜MasterCardの事例〜 #cwt2015
PCIコンプライアンスに向けたビジネス指針〜MasterCardの事例〜 #cwt2015
Cloudera Japan
Empfohlen
Cloud Native Hadoop #cwt2016
Cloud Native Hadoop #cwt2016
Cloudera Japan
HBase Meetup Tokyo Summer 2015 #hbasejp
HBase Meetup Tokyo Summer 2015 #hbasejp
Cloudera Japan
Cloudera in the Cloud #CWT2017
Cloudera in the Cloud #CWT2017
Cloudera Japan
Hadoopビッグデータ基盤の歴史を振り返る #cwt2015
Hadoopビッグデータ基盤の歴史を振り返る #cwt2015
Cloudera Japan
G-Tech2015 Hadoop/Sparkを中核としたビッグデータ基盤_20151006
G-Tech2015 Hadoop/Sparkを中核としたビッグデータ基盤_20151006
Cloudera Japan
HBase活用事例 #hbase_ca
HBase活用事例 #hbase_ca
Cloudera Japan
Clouderaが提供するエンタープライズ向け運用、データ管理ツールの使い方 #CW2017
Clouderaが提供するエンタープライズ向け運用、データ管理ツールの使い方 #CW2017
Cloudera Japan
PCIコンプライアンスに向けたビジネス指針〜MasterCardの事例〜 #cwt2015
PCIコンプライアンスに向けたビジネス指針〜MasterCardの事例〜 #cwt2015
Cloudera Japan
エンタープライズデータハブ活用の落とし穴 2015 08-27
エンタープライズデータハブ活用の落とし穴 2015 08-27
Cloudera Japan
認証/認可が実現する安全で高速分析可能な分析処理基盤
認証/認可が実現する安全で高速分析可能な分析処理基盤
Masahiro Kiura
先行事例から学ぶ IoT / ビッグデータの始め方
先行事例から学ぶ IoT / ビッグデータの始め方
Cloudera Japan
Cloudera Data Science WorkbenchとPySparkで 好きなPythonライブラリを 分散で使う #cadeda
Cloudera Data Science WorkbenchとPySparkで 好きなPythonライブラリを 分散で使う #cadeda
Cloudera Japan
#cwt2016 Apache Kudu 構成とテーブル設計
#cwt2016 Apache Kudu 構成とテーブル設計
Cloudera Japan
Troubleshooting Using Cloudera Manager #cwt2015
Troubleshooting Using Cloudera Manager #cwt2015
Cloudera Japan
Apache Kuduを使った分析システムの裏側
Apache Kuduを使った分析システムの裏側
Cloudera Japan
C5.2 (Cloudera Manager + CDH) アップデート #cwt2014
C5.2 (Cloudera Manager + CDH) アップデート #cwt2014
Cloudera Japan
Apache Hadoop YARNとマルチテナントにおけるリソース管理
Apache Hadoop YARNとマルチテナントにおけるリソース管理
Cloudera Japan
基調講演: 「データエコシステムへの挑戦」 #cwt2015
基調講演: 「データエコシステムへの挑戦」 #cwt2015
Cloudera Japan
基礎から学ぶ超並列SQLエンジンImpala #cwt2015
基礎から学ぶ超並列SQLエンジンImpala #cwt2015
Cloudera Japan
大規模データに対するデータサイエンスの進め方 #CWT2016
大規模データに対するデータサイエンスの進め方 #CWT2016
Cloudera Japan
Apache Impalaパフォーマンスチューニング #dbts2018
Apache Impalaパフォーマンスチューニング #dbts2018
Cloudera Japan
機械学習の定番プラットフォームSparkの紹介
機械学習の定番プラットフォームSparkの紹介
Cloudera Japan
Strata + Hadoop World 2014 レポート #cwt2014
Strata + Hadoop World 2014 レポート #cwt2014
Cloudera Japan
MapReduceを置き換えるSpark 〜HadoopとSparkの統合〜 #cwt2015
MapReduceを置き換えるSpark 〜HadoopとSparkの統合〜 #cwt2015
Cloudera Japan
[CWT2017]Infrastructure as Codeを活用したF.O.Xのクラウドビッグデータ環境の変化
[CWT2017]Infrastructure as Codeを活用したF.O.Xのクラウドビッグデータ環境の変化
Takahiro Moteki
Apache Kuduは何がそんなに「速い」DBなのか? #dbts2017
Apache Kuduは何がそんなに「速い」DBなのか? #dbts2017
Cloudera Japan
HBase Across the World #LINE_DM
HBase Across the World #LINE_DM
Cloudera Japan
Hadoop Operations #cwt2013
Hadoop Operations #cwt2013
Cloudera Japan
Cloudera + MicrosoftでHadoopするのがイイらしい。 #CWT2016
Cloudera + MicrosoftでHadoopするのがイイらしい。 #CWT2016
Cloudera Japan
HAWQをCDHで動かしてみた
HAWQをCDHで動かしてみた
adachij2002
Weitere ähnliche Inhalte
Was ist angesagt?
エンタープライズデータハブ活用の落とし穴 2015 08-27
エンタープライズデータハブ活用の落とし穴 2015 08-27
Cloudera Japan
認証/認可が実現する安全で高速分析可能な分析処理基盤
認証/認可が実現する安全で高速分析可能な分析処理基盤
Masahiro Kiura
先行事例から学ぶ IoT / ビッグデータの始め方
先行事例から学ぶ IoT / ビッグデータの始め方
Cloudera Japan
Cloudera Data Science WorkbenchとPySparkで 好きなPythonライブラリを 分散で使う #cadeda
Cloudera Data Science WorkbenchとPySparkで 好きなPythonライブラリを 分散で使う #cadeda
Cloudera Japan
#cwt2016 Apache Kudu 構成とテーブル設計
#cwt2016 Apache Kudu 構成とテーブル設計
Cloudera Japan
Troubleshooting Using Cloudera Manager #cwt2015
Troubleshooting Using Cloudera Manager #cwt2015
Cloudera Japan
Apache Kuduを使った分析システムの裏側
Apache Kuduを使った分析システムの裏側
Cloudera Japan
C5.2 (Cloudera Manager + CDH) アップデート #cwt2014
C5.2 (Cloudera Manager + CDH) アップデート #cwt2014
Cloudera Japan
Apache Hadoop YARNとマルチテナントにおけるリソース管理
Apache Hadoop YARNとマルチテナントにおけるリソース管理
Cloudera Japan
基調講演: 「データエコシステムへの挑戦」 #cwt2015
基調講演: 「データエコシステムへの挑戦」 #cwt2015
Cloudera Japan
基礎から学ぶ超並列SQLエンジンImpala #cwt2015
基礎から学ぶ超並列SQLエンジンImpala #cwt2015
Cloudera Japan
大規模データに対するデータサイエンスの進め方 #CWT2016
大規模データに対するデータサイエンスの進め方 #CWT2016
Cloudera Japan
Apache Impalaパフォーマンスチューニング #dbts2018
Apache Impalaパフォーマンスチューニング #dbts2018
Cloudera Japan
機械学習の定番プラットフォームSparkの紹介
機械学習の定番プラットフォームSparkの紹介
Cloudera Japan
Strata + Hadoop World 2014 レポート #cwt2014
Strata + Hadoop World 2014 レポート #cwt2014
Cloudera Japan
MapReduceを置き換えるSpark 〜HadoopとSparkの統合〜 #cwt2015
MapReduceを置き換えるSpark 〜HadoopとSparkの統合〜 #cwt2015
Cloudera Japan
[CWT2017]Infrastructure as Codeを活用したF.O.Xのクラウドビッグデータ環境の変化
[CWT2017]Infrastructure as Codeを活用したF.O.Xのクラウドビッグデータ環境の変化
Takahiro Moteki
Apache Kuduは何がそんなに「速い」DBなのか? #dbts2017
Apache Kuduは何がそんなに「速い」DBなのか? #dbts2017
Cloudera Japan
HBase Across the World #LINE_DM
HBase Across the World #LINE_DM
Cloudera Japan
Hadoop Operations #cwt2013
Hadoop Operations #cwt2013
Cloudera Japan
Was ist angesagt?
(20)
エンタープライズデータハブ活用の落とし穴 2015 08-27
エンタープライズデータハブ活用の落とし穴 2015 08-27
認証/認可が実現する安全で高速分析可能な分析処理基盤
認証/認可が実現する安全で高速分析可能な分析処理基盤
先行事例から学ぶ IoT / ビッグデータの始め方
先行事例から学ぶ IoT / ビッグデータの始め方
Cloudera Data Science WorkbenchとPySparkで 好きなPythonライブラリを 分散で使う #cadeda
Cloudera Data Science WorkbenchとPySparkで 好きなPythonライブラリを 分散で使う #cadeda
#cwt2016 Apache Kudu 構成とテーブル設計
#cwt2016 Apache Kudu 構成とテーブル設計
Troubleshooting Using Cloudera Manager #cwt2015
Troubleshooting Using Cloudera Manager #cwt2015
Apache Kuduを使った分析システムの裏側
Apache Kuduを使った分析システムの裏側
C5.2 (Cloudera Manager + CDH) アップデート #cwt2014
C5.2 (Cloudera Manager + CDH) アップデート #cwt2014
Apache Hadoop YARNとマルチテナントにおけるリソース管理
Apache Hadoop YARNとマルチテナントにおけるリソース管理
基調講演: 「データエコシステムへの挑戦」 #cwt2015
基調講演: 「データエコシステムへの挑戦」 #cwt2015
基礎から学ぶ超並列SQLエンジンImpala #cwt2015
基礎から学ぶ超並列SQLエンジンImpala #cwt2015
大規模データに対するデータサイエンスの進め方 #CWT2016
大規模データに対するデータサイエンスの進め方 #CWT2016
Apache Impalaパフォーマンスチューニング #dbts2018
Apache Impalaパフォーマンスチューニング #dbts2018
機械学習の定番プラットフォームSparkの紹介
機械学習の定番プラットフォームSparkの紹介
Strata + Hadoop World 2014 レポート #cwt2014
Strata + Hadoop World 2014 レポート #cwt2014
MapReduceを置き換えるSpark 〜HadoopとSparkの統合〜 #cwt2015
MapReduceを置き換えるSpark 〜HadoopとSparkの統合〜 #cwt2015
[CWT2017]Infrastructure as Codeを活用したF.O.Xのクラウドビッグデータ環境の変化
[CWT2017]Infrastructure as Codeを活用したF.O.Xのクラウドビッグデータ環境の変化
Apache Kuduは何がそんなに「速い」DBなのか? #dbts2017
Apache Kuduは何がそんなに「速い」DBなのか? #dbts2017
HBase Across the World #LINE_DM
HBase Across the World #LINE_DM
Hadoop Operations #cwt2013
Hadoop Operations #cwt2013
Andere mochten auch
Cloudera + MicrosoftでHadoopするのがイイらしい。 #CWT2016
Cloudera + MicrosoftでHadoopするのがイイらしい。 #CWT2016
Cloudera Japan
HAWQをCDHで動かしてみた
HAWQをCDHで動かしてみた
adachij2002
Ibis: すごい pandas ⼤規模データ分析もらっくらく #summerDS
Ibis: すごい pandas ⼤規模データ分析もらっくらく #summerDS
Cloudera Japan
クラウド上でHadoopを構築できる Cloudera Director 2.0 の紹介 #dogenzakalt
クラウド上でHadoopを構築できる Cloudera Director 2.0 の紹介 #dogenzakalt
Cloudera Japan
[db tech showcase Tokyo 2015] B16:最新版PostgreSQLのパフォーマンスを引き出すためのポイント by Postgr...
[db tech showcase Tokyo 2015] B16:最新版PostgreSQLのパフォーマンスを引き出すためのポイント by Postgr...
Insight Technology, Inc.
[db tech showcase Tokyo 2015] A26:内部犯行による漏えいを防ぐPostgreSQLの透過的暗号化機能に関する実装と利用方法...
[db tech showcase Tokyo 2015] A26:内部犯行による漏えいを防ぐPostgreSQLの透過的暗号化機能に関する実装と利用方法...
Insight Technology, Inc.
[db tech showcase Tokyo 2016] C32: 世界一速いPostgreSQLを目指せ!インメモリカラムナの実現 by 富士通株式会...
[db tech showcase Tokyo 2016] C32: 世界一速いPostgreSQLを目指せ!インメモリカラムナの実現 by 富士通株式会...
Insight Technology, Inc.
まずやっとくPostgreSQLチューニング
まずやっとくPostgreSQLチューニング
Kosuke Kida
あなたの知らないPostgreSQL監視の世界
あなたの知らないPostgreSQL監視の世界
Yoshinori Nakanishi
PostgreSQLクエリ実行の基礎知識 ~Explainを読み解こう~
PostgreSQLクエリ実行の基礎知識 ~Explainを読み解こう~
Miki Shimogai
Migr8.rb チュートリアル
Migr8.rb チュートリアル
kwatch
今すぐ使えるクラウドとPostgreSQL
今すぐ使えるクラウドとPostgreSQL
Soudai Sone
Osc2015 hokkaido postgresql-semi-stuructured-datatype
Osc2015 hokkaido postgresql-semi-stuructured-datatype
Toshi Harada
PostgreSQLアーキテクチャ入門
PostgreSQLアーキテクチャ入門
Uptime Technologies LLC (JP)
Ivsctonightandday2016winter moringsession awsreinvent2016recap
Ivsctonightandday2016winter moringsession awsreinvent2016recap
Tadashi Okazaki
初心者がAWSでWebサービスを始めるまで 〜たった3ステップでWebページは公開できる〜
初心者がAWSでWebサービスを始めるまで 〜たった3ステップでWebページは公開できる〜
Takeshi Wakamatsu
【自社プロダクト開発エンジニア募集中】エーピーコミュニケーションズ 先進開発グループ
【自社プロダクト開発エンジニア募集中】エーピーコミュニケーションズ 先進開発グループ
APCommunications-recruit
レシピブログのサービス設計と今後の展望
レシピブログのサービス設計と今後の展望
Masaki Nakagawa
[D31] PostgreSQLでスケールアウト構成を構築しよう by Yugo Nagata
[D31] PostgreSQLでスケールアウト構成を構築しよう by Yugo Nagata
Insight Technology, Inc.
最上級の簡易性を備えたオープンソースDBクラウド基盤 Composeのご紹介
最上級の簡易性を備えたオープンソースDBクラウド基盤 Composeのご紹介
IBM Analytics Japan
Andere mochten auch
(20)
Cloudera + MicrosoftでHadoopするのがイイらしい。 #CWT2016
Cloudera + MicrosoftでHadoopするのがイイらしい。 #CWT2016
HAWQをCDHで動かしてみた
HAWQをCDHで動かしてみた
Ibis: すごい pandas ⼤規模データ分析もらっくらく #summerDS
Ibis: すごい pandas ⼤規模データ分析もらっくらく #summerDS
クラウド上でHadoopを構築できる Cloudera Director 2.0 の紹介 #dogenzakalt
クラウド上でHadoopを構築できる Cloudera Director 2.0 の紹介 #dogenzakalt
[db tech showcase Tokyo 2015] B16:最新版PostgreSQLのパフォーマンスを引き出すためのポイント by Postgr...
[db tech showcase Tokyo 2015] B16:最新版PostgreSQLのパフォーマンスを引き出すためのポイント by Postgr...
[db tech showcase Tokyo 2015] A26:内部犯行による漏えいを防ぐPostgreSQLの透過的暗号化機能に関する実装と利用方法...
[db tech showcase Tokyo 2015] A26:内部犯行による漏えいを防ぐPostgreSQLの透過的暗号化機能に関する実装と利用方法...
[db tech showcase Tokyo 2016] C32: 世界一速いPostgreSQLを目指せ!インメモリカラムナの実現 by 富士通株式会...
[db tech showcase Tokyo 2016] C32: 世界一速いPostgreSQLを目指せ!インメモリカラムナの実現 by 富士通株式会...
まずやっとくPostgreSQLチューニング
まずやっとくPostgreSQLチューニング
あなたの知らないPostgreSQL監視の世界
あなたの知らないPostgreSQL監視の世界
PostgreSQLクエリ実行の基礎知識 ~Explainを読み解こう~
PostgreSQLクエリ実行の基礎知識 ~Explainを読み解こう~
Migr8.rb チュートリアル
Migr8.rb チュートリアル
今すぐ使えるクラウドとPostgreSQL
今すぐ使えるクラウドとPostgreSQL
Osc2015 hokkaido postgresql-semi-stuructured-datatype
Osc2015 hokkaido postgresql-semi-stuructured-datatype
PostgreSQLアーキテクチャ入門
PostgreSQLアーキテクチャ入門
Ivsctonightandday2016winter moringsession awsreinvent2016recap
Ivsctonightandday2016winter moringsession awsreinvent2016recap
初心者がAWSでWebサービスを始めるまで 〜たった3ステップでWebページは公開できる〜
初心者がAWSでWebサービスを始めるまで 〜たった3ステップでWebページは公開できる〜
【自社プロダクト開発エンジニア募集中】エーピーコミュニケーションズ 先進開発グループ
【自社プロダクト開発エンジニア募集中】エーピーコミュニケーションズ 先進開発グループ
レシピブログのサービス設計と今後の展望
レシピブログのサービス設計と今後の展望
[D31] PostgreSQLでスケールアウト構成を構築しよう by Yugo Nagata
[D31] PostgreSQLでスケールアウト構成を構築しよう by Yugo Nagata
最上級の簡易性を備えたオープンソースDBクラウド基盤 Composeのご紹介
最上級の簡易性を備えたオープンソースDBクラウド基盤 Composeのご紹介
Ähnlich wie #cwt2016 Cloudera Managerを用いた Hadoop のトラブルシューティング
Jenkins User Conference 東京 2015
Jenkins User Conference 東京 2015
Kohsuke Kawaguchi
Heroku Inside
Heroku Inside
Ayumu Aizawa
HBaseサポート最前線 #hbase_ca
HBaseサポート最前線 #hbase_ca
Cloudera Japan
The road of Apache CloudStack Contributor (Translation and Patch)
The road of Apache CloudStack Contributor (Translation and Patch)
Kimihiko Kitase
Terraformを活用した自動化デモ_F5-NGINX_Community-20200805
Terraformを活用した自動化デモ_F5-NGINX_Community-20200805
shinyatsukasaki
Prometheus超基礎公開用.pdf
Prometheus超基礎公開用.pdf
勇 黒沢
Managed Instance チートシート
Managed Instance チートシート
Masayuki Ozawa
Impala概要 道玄坂LT祭り 20150312 #dogenzakalt
Impala概要 道玄坂LT祭り 20150312 #dogenzakalt
Cloudera Japan
Docker事始めと最新動向 2015年6月
Docker事始めと最新動向 2015年6月
Emma Haruka Iwao
HDFS Supportaiblity Improvements
HDFS Supportaiblity Improvements
Cloudera Japan
実録!Railsのはまりポイント10選
実録!Railsのはまりポイント10選
Drecom Co., Ltd.
オープンソースのクラウド基盤 CloudStackによるIaaS構築入門 @OSC 2013 Nagoya
オープンソースのクラウド基盤 CloudStackによるIaaS構築入門 @OSC 2013 Nagoya
Satoshi Shimazaki
Windows クライアントのトラブルシューティングあれこれ
Windows クライアントのトラブルシューティングあれこれ
彰 村地
Applications made with twelve factor-app
Applications made with twelve factor-app
Kodai Sakabe
オープンソースカンファレンス OSC 2014 エンタープライズ 東京 ownCloud 法人向けオンラインストレージ マルチデバイスファイル共有ソリューション
オープンソースカンファレンス OSC 2014 エンタープライズ 東京 ownCloud 法人向けオンラインストレージ マルチデバイスファイル共有ソリューション
Tetsurou Yano
コンテナ&サーバーレス:トレンドの考察と少し先の未来の展望
コンテナ&サーバーレス:トレンドの考察と少し先の未来の展望
Yoichi Kawasaki
SugarCRM meets FreeHosting
SugarCRM meets FreeHosting
Toshiya TSURU
Firefoxの開発プロセス
Firefoxの開発プロセス
Makoto Kato
Cld003 あなたの azure_windows_vm_がも
Cld003 あなたの azure_windows_vm_がも
Tech Summit 2016
20101022 構成管理勉強会資料
20101022 構成管理勉強会資料
Atsushi Takayasu
Ähnlich wie #cwt2016 Cloudera Managerを用いた Hadoop のトラブルシューティング
(20)
Jenkins User Conference 東京 2015
Jenkins User Conference 東京 2015
Heroku Inside
Heroku Inside
HBaseサポート最前線 #hbase_ca
HBaseサポート最前線 #hbase_ca
The road of Apache CloudStack Contributor (Translation and Patch)
The road of Apache CloudStack Contributor (Translation and Patch)
Terraformを活用した自動化デモ_F5-NGINX_Community-20200805
Terraformを活用した自動化デモ_F5-NGINX_Community-20200805
Prometheus超基礎公開用.pdf
Prometheus超基礎公開用.pdf
Managed Instance チートシート
Managed Instance チートシート
Impala概要 道玄坂LT祭り 20150312 #dogenzakalt
Impala概要 道玄坂LT祭り 20150312 #dogenzakalt
Docker事始めと最新動向 2015年6月
Docker事始めと最新動向 2015年6月
HDFS Supportaiblity Improvements
HDFS Supportaiblity Improvements
実録!Railsのはまりポイント10選
実録!Railsのはまりポイント10選
オープンソースのクラウド基盤 CloudStackによるIaaS構築入門 @OSC 2013 Nagoya
オープンソースのクラウド基盤 CloudStackによるIaaS構築入門 @OSC 2013 Nagoya
Windows クライアントのトラブルシューティングあれこれ
Windows クライアントのトラブルシューティングあれこれ
Applications made with twelve factor-app
Applications made with twelve factor-app
オープンソースカンファレンス OSC 2014 エンタープライズ 東京 ownCloud 法人向けオンラインストレージ マルチデバイスファイル共有ソリューション
オープンソースカンファレンス OSC 2014 エンタープライズ 東京 ownCloud 法人向けオンラインストレージ マルチデバイスファイル共有ソリューション
コンテナ&サーバーレス:トレンドの考察と少し先の未来の展望
コンテナ&サーバーレス:トレンドの考察と少し先の未来の展望
SugarCRM meets FreeHosting
SugarCRM meets FreeHosting
Firefoxの開発プロセス
Firefoxの開発プロセス
Cld003 あなたの azure_windows_vm_がも
Cld003 あなたの azure_windows_vm_がも
20101022 構成管理勉強会資料
20101022 構成管理勉強会資料
Mehr von Cloudera Japan
Impala + Kudu を用いたデータウェアハウス構築の勘所 (仮)
Impala + Kudu を用いたデータウェアハウス構築の勘所 (仮)
Cloudera Japan
分散DB Apache KuduのアーキテクチャDBの性能と一貫性を両立させる仕組み「HybridTime」とは
分散DB Apache KuduのアーキテクチャDBの性能と一貫性を両立させる仕組み「HybridTime」とは
Cloudera Japan
Cloudera のサポートエンジニアリング #supennight
Cloudera のサポートエンジニアリング #supennight
Cloudera Japan
Train, predict, serve: How to go into production your machine learning model
Train, predict, serve: How to go into production your machine learning model
Cloudera Japan
How to go into production your machine learning models? #CWT2017
How to go into production your machine learning models? #CWT2017
Cloudera Japan
Apache Kudu - Updatable Analytical Storage #rakutentech
Apache Kudu - Updatable Analytical Storage #rakutentech
Cloudera Japan
Hue 4.0 / Hue Meetup Tokyo #huejp
Hue 4.0 / Hue Meetup Tokyo #huejp
Cloudera Japan
「新製品 Kudu 及び RecordServiceの概要」 #cwt2015
「新製品 Kudu 及び RecordServiceの概要」 #cwt2015
Cloudera Japan
基調講演:「ビッグデータのセキュリティとガバナンス要件」 #cwt2015
基調講演:「ビッグデータのセキュリティとガバナンス要件」 #cwt2015
Cloudera Japan
基調講演: 「パーペイシブ分析を目指して」#cwt2015
基調講演: 「パーペイシブ分析を目指して」#cwt2015
Cloudera Japan
Mehr von Cloudera Japan
(10)
Impala + Kudu を用いたデータウェアハウス構築の勘所 (仮)
Impala + Kudu を用いたデータウェアハウス構築の勘所 (仮)
分散DB Apache KuduのアーキテクチャDBの性能と一貫性を両立させる仕組み「HybridTime」とは
分散DB Apache KuduのアーキテクチャDBの性能と一貫性を両立させる仕組み「HybridTime」とは
Cloudera のサポートエンジニアリング #supennight
Cloudera のサポートエンジニアリング #supennight
Train, predict, serve: How to go into production your machine learning model
Train, predict, serve: How to go into production your machine learning model
How to go into production your machine learning models? #CWT2017
How to go into production your machine learning models? #CWT2017
Apache Kudu - Updatable Analytical Storage #rakutentech
Apache Kudu - Updatable Analytical Storage #rakutentech
Hue 4.0 / Hue Meetup Tokyo #huejp
Hue 4.0 / Hue Meetup Tokyo #huejp
「新製品 Kudu 及び RecordServiceの概要」 #cwt2015
「新製品 Kudu 及び RecordServiceの概要」 #cwt2015
基調講演:「ビッグデータのセキュリティとガバナンス要件」 #cwt2015
基調講演:「ビッグデータのセキュリティとガバナンス要件」 #cwt2015
基調講演: 「パーペイシブ分析を目指して」#cwt2015
基調講演: 「パーペイシブ分析を目指して」#cwt2015
#cwt2016 Cloudera Managerを用いた Hadoop のトラブルシューティング
1.
Cloudera Manager を⽤いた Hadoop
のトラブルシューティング テクニカルサポートの現場から Daisuke Kobayashi | Customer Operations Engineer
2.
2© Cloudera, Inc.
All rights reserved. ⾃⼰紹介 • ⼩林⼤輔 (@d1ce_) • Cloudera ⼊社五年⽬ • カスタマーオペレーションズエンジニア == テクニカルサポート • 過去の主な講演 • Hadoop Operations (2013) http://www.slideshare.net/Cloudera_jp/b3-hadoop-operations-20131107 • HBaseサポート最前線 (2015) http://www.slideshare.net/Cloudera_jp/hbase-hbaseca • Troubleshooting Using Cloudera Manager (2015) http://www.slideshare.net/Cloudera_jp/troubleshooting-using-cloudera-manager-cwt2015
3.
12© Cloudera, Inc.
All rights reserved. 障害対応時に必要な情報 • どんなログがでているか • どのバージョンを使⽤しているか • どのような設定で動かしているか • 発⽣前に変更した設定はあるか • いつ、何をしたときに発⽣したか • 発⽣頻度は? • 推奨構成となっているか • 使⽤しているコンポーネントは? • これまでにどのような対応を実施したか
4.
13© Cloudera, Inc.
All rights reserved. 障害対応時に必要な情報 • どんなログがでているか • どのバージョンを使⽤しているか • どのような設定で動かしているか • 発⽣前に変更した設定はあるか • いつ、何をしたときに発⽣したか • 発⽣頻度は? • 推奨構成となっているか • 使⽤しているコンポーネントは? • これまでにどのような対応を実施したか
5.
14© Cloudera, Inc.
All rights reserved. 本講演では Cloudera Manager (CM) を使って 1. 障害を回避するためにできること 2. 障害が発⽣したときに Cloudera サポートチームが • 何をみて • どのように • 問題解決しているのか を紹介します
6.
15© Cloudera, Inc.
All rights reserved. 昨年のセッション
7.
16© Cloudera, Inc.
All rights reserved. 昨年のセッションをベースに講演します Troubleshooting Using Cloudera Manager #cwt2015 http://www.slideshare.net/Cloudera_jp/troubleshooting-using-cloudera-manager-cwt2015 How Cloudera Manager Makes Hadoop Troubleshooting Easy http://qiita.com/d1ce_/items/9dd13a71f574ad1000af
8.
17©Cloudera, Inc. All
rights reserved. トラブルシューティングに先⽴って 必要となる前提知識の確認
9.
18© Cloudera, Inc.
All rights reserved. サポート要件の確認 http://www.cloudera.com/documentation/enterprise/release-notes/topics/rn_consolidated_pcm.html • サポートOS/Database/JDK のバージョンを確認すること • ディスク要件 • DataNode や Kafkaのノード • 独⽴したディスクを使⽤すること (JBOD) • DataNode のドライブは SSD/HDD 混在の構成もサポート (CDH 5.4 以上) http://www.cloudera.com/documentation/enterprise/latest/topics/admin_heterogeneous_storage_oview.html • new! DataNode 内ディスク間バランシングも対応 (CDH 5.8.2 以上) https://hadoop.apache.org/docs/current/hadoop-project-dist/hadoop-hdfs/HDFSDiskbalancer.html • マスターノード • NameNode/JournalNode/ZooKeeper でそれぞれ独⽴したドライブを⽤意すること
10.
19© Cloudera, Inc.
All rights reserved. サポート要件の確認 http://www.cloudera.com/documentation/enterprise/release-notes/topics/rn_consolidated_pcm.html • ネットワーク要件 • 複数 NIC の利⽤は未サポート • ホスト同⼠は FQDN で通信できるよう確認すること • ファイアーウォールは無効化すること
11.
20© Cloudera, Inc.
All rights reserved. ホストインスペクタの定期実⾏ http://www.cloudera.com/documentation/enterprise/latest/topics/cm_mc_host_inspector.html • 必須要件のチェックが⼊っている • ホスト間の名前解決の確認 • THP や swappiness 設定状況の検知 • バージョン不整合の検知 かならず全てグリーンにすること
12.
21© Cloudera, Inc.
All rights reserved. CMが利⽤するポート http://www.cloudera.com/documentation/enterprise/latest/topics/cm_ig_ports_cm.html 注: この他にもコンポーネント間の通信⽤に ランダムにエフェメラルポートを利⽤
13.
22© Cloudera, Inc.
All rights reserved. CMが利⽤するポート http://www.cloudera.com/documentation/enterprise/latest/topics/cm_ig_ports_cm.html • CDHのプロセスはすべてsupervisordが管理 • CM⾃⾝はHDFSのデータやHiveメタストアの 情報を持たない
14.
23© Cloudera, Inc.
All rights reserved. CMが⽣成する設定ファイル http://www.cloudera.com/documentation/enterprise/latest/topics/cm_intro_primer.html • クライアント設定 • /etc/XXX/conf (etc/hadoop/conf, /etc/hive/conf, ...) • ネームノードやデータノードなどのサーバープロセスは参照しない • サーバーサイド設定 • CM 経由での再起動時に新たな ディレクトリが⽣成される • ⾃動再起動時は以前のディレクトリを 使⽤
15.
24© Cloudera, Inc.
All rights reserved. CMが⽣成するログファイル http://www.cloudera.com/documentation/enterprise/latest/topics/cm_ag_view_server_logs.html • CM Server • /var/log/cloudera-scm-server • GUI からも確認可能
16.
25© Cloudera, Inc.
All rights reserved. CMが⽣成するログファイル http://www.cloudera.com/documentation/enterprise/latest/topics/cm_ag_view_agent_logs.html • CM Agent • /var/log/cloudera-scm-agent • GUI からも確認可能
17.
26© Cloudera, Inc.
All rights reserved. CMが⽣成するログファイル http://www.cloudera.com/documentation/enterprise/latest/topics/cm_intro_primer.html CDH プロセスの実⾏コマンドログ • NameNode の例 • /var/run/cloudera-scm-agent/process/xx-hdfs-NAMENODE/logs • 何が出⼒されているか • プロセス起動にあたり読み込んだ環境変数と実⾏コマンド • OutOfMemoryError 発⽣時のログ • GUI からも確認可能
18.
27© Cloudera, Inc.
All rights reserved. CMが⽣成するログファイル • GUI からも確認可能
19.
28© Cloudera, Inc.
All rights reserved. CMが利⽤するデータベース http://www.cloudera.com/documentation/enterprise/latest/topics/cm_ig_installing_configuring_dbs.html http://www.cloudera.com/documentation/enterprise/latest/topics/cm_ig_reqs_space.html • RDBMS を利⽤するプロセス • CM Server (組み込み PostgreSQL を使⽤すると警告がでます) • Activity Monitor (MRv1のみ) • Reports Manager / Navigator ( のみ) • LevelDB を利⽤するプロセス • Service Monitor (/var/lib/cloudera-service-monitor/) • Host Monitor (/var/lib/cloudera-host-monitor/) • それぞれ最低 10GB 以上必要
20.
29© Cloudera, Inc.
All rights reserved. アップグレードにあたって http://www.cloudera.com/documentation/enterprise/latest/topics/cm_ag_upgrading_cm.html • かならず CM を先にアップグレードすること • CM のマイナーバージョン >= CDH のマイナーバージョンを維持すること • マイナーバージョン: バージョン番号 X.Y.Z の X.Y を指す • CM <= CDH は未サポート & 最悪の場合まともに動きません CM アップグレード CDH アップグレード
21.
30© Cloudera, Inc.
All rights reserved. アップグレードにあたって http://www.cloudera.com/documentation/enterprise/latest/topics/cm_ag_upgrading_os.html • ホスト OS のアップグレード • CM/CDH のアップグレードと同時に⾏う場合は、OS を先に実施すること • マイナーアップグレード(推奨) • ワーカーノードの OS アップグレードはメンテナンス時間やブロック数に応じて デコミッションするかしないかの戦略を⽴てる必要がある
22.
31© Cloudera, Inc.
All rights reserved. チャートの活⽤ http://www.cloudera.com/documentation/enterprise/latest/topics/cm_dg_chart_time_series_data.html
23.
32© Cloudera, Inc.
All rights reserved. クラウドのリファレンスアーキテクチャ http://www.cloudera.com/documentation/other/reference-architecture.html
24.
33© Cloudera, Inc.
All rights reserved. 全体から細部へ http://www.cloudera.co.jp/blog/quality-assurance-at-cloudera-runningupgrading-to-new-releases-on-our-own-edh-cluster.html
25.
34© Cloudera, Inc.
All rights reserved. 全体から細部へ http://www.cloudera.co.jp/blog/quality-assurance-at-cloudera-runningupgrading-to-new-releases-on-our-own-edh-cluster.html
26.
35© Cloudera, Inc.
All rights reserved. 全体から細部へ http://www.cloudera.co.jp/blog/quality-assurance-at-cloudera-runningupgrading-to-new-releases-on-our-own-edh-cluster.html
27.
36©Cloudera, Inc. All
rights reserved. トラブルシューティングの実際
28.
37© Cloudera, Inc.
All rights reserved. 障害の三⼤原因 • 製品バグ • ハードウェアの問題 • ユーザーのオペミス
29.
38© Cloudera, Inc.
All rights reserved. 障害の三⼤原因 • 製品バグ • ハードウェアの問題 • ユーザーのオペミス
30.
#1 ブロック数が急増した原因は?
31.
40© Cloudera, Inc.
All rights reserved. #1 ブロック数が急増した原因は? • 事象 • データノードが OutOfMemoryError で停⽌する事象が頻発 • データノードが保持するブロック数が100万近くに達したというアラート • CM は単⼀データノードが50万以上のブロックを保持しているとアラートを出す http://www.cloudera.com/documentation/enterprise/latest/topics/cm_ht_datanode.html
32.
45© Cloudera, Inc.
All rights reserved. #1 ブロック数が急増した原因は? • 事象 • データノードが OutOfMemoryError で停⽌する事象が頻発 • データノードが保持するブロック数が100万近くに達したというアラート • CM は単⼀データノードが50万以上のブロックを保持しているとアラートを出す http://www.cloudera.com/documentation/enterprise/latest/topics/cm_ht_datanode.html • 確認事項 • 本当にブロック数が急増していれば OOME は起こり得る • いつ増加を始めた? • そもそも異常なことなのか? • 損失したブロックはないか?
33.
46© Cloudera, Inc.
All rights reserved. #1 ブロック数が急増した原因は? • 事象 • データノードが OutOfMemoryError で停⽌する事象が頻発 • データノードが保持するブロック数が100万近くに達したというアラート • CM は単⼀データノードが50万以上のブロックを保持しているとアラートを出す http://www.cloudera.com/documentation/enterprise/latest/topics/cm_ht_datanode.html • 確認事項 • 本当にブロック数が急増していれば OOME は起こり得る • いつ増加を始めた? • そもそも異常なことなのか? • 損失したブロックはないか? ?? hdfs fsck?
34.
47© Cloudera, Inc.
All rights reserved. #1 ブロック数はいつ増加し始めたのか 1. 現在のブロック数を確認する • ネームノード WebU Iのデータノード⼀覧ページから確認できる 2. ブロック数の増加傾向を確認する • tsquey を投げる? SELECT blocks_total WHERE entityName rlike "hdfs.*" AND category = SERVICE • 事前定義されたチャートからも確認できる • HDFS --> チャートライブラリ --> Blocks and Files
35.
48© Cloudera, Inc.
All rights reserved. #1 ブロック数の増加傾向を確認する • チャートで表⽰するタイムレンジは柔軟に選択できる • ⽉、⽇、時間、分レベルで調整可能 • 今回は「1⽇」「7⽇間」「30⽇間」 の3パターンで取得
36.
49© Cloudera, Inc.
All rights reserved. 1⽇
37.
50© Cloudera, Inc.
All rights reserved. 7⽇間
38.
51© Cloudera, Inc.
All rights reserved. 30⽇間
39.
53© Cloudera, Inc.
All rights reserved. 1⽇ 7⽇間 30⽇間 過去24時間で ⼤きな変化は なし 3⽇前からブロック 数の急増を確認 現在は3倍以上 過去⼀ヶ⽉でみると 今回の増加は 異常にみえる
40.
54© Cloudera, Inc.
All rights reserved. #1 ブロック数の急増はなぜ起きたか • 営業チームに連絡が⼊っていないか確認 • 新たなデータソースの追加予定はあったか? • クラスタの利⽤⽤途は以前と変わっていないか? • ブロック数が増えたことはわかったが、データ量は増えているか? • 2PB 近いデータが何の予告もなしに投⼊されたとは考えにくい • ⼩さいファイルが⼤量投⼊された可能性が⾼い • CM からチャートを確認 • HDFS のサービスページに事前定義されたチャートがある
41.
56© Cloudera, Inc.
All rights reserved. #1 データ量は増えているか 30⽇間 ⼀切増えていない
42.
57© Cloudera, Inc.
All rights reserved. #1 結論 • 状況のまとめ • 過去3⽇間の間に 2000万近いブロックが追加された • クラスタ全体のデータ量は増えていない • 損失したブロックはない • small files problem が発⽣していることを通知 http://blog.cloudera.com/blog/2009/02/the-small-files-problem/ • お客さま側でユーザー毎の利⽤状況を確認してもらい、クラスタ 利⽤者が⼤量のファイルを投⼊していたことが判明
43.
#2 70万個のブロックが損失した原因は?
44.
59© Cloudera, Inc.
All rights reserved. #2 70万個のブロックが損失した理由は? • 事象 • データノードのホットスワップ後、70万以上のブロック損失が検知された
45.
60© Cloudera, Inc.
All rights reserved. #2 ホットスワップについて http://www.cloudera.com/documentation/enterprise/latest/topics/admin_dn_swap.html • データノードでディスク障害が発⽣したとき • 従来のステップ 1. データノードをデコミッションして 2. データノードを停⽌して 3. ディスクを交換して 4. データノードを再起動
46.
61© Cloudera, Inc.
All rights reserved. #2 ホットスワップについて http://www.cloudera.com/documentation/enterprise/latest/topics/admin_dn_swap.html • データノードでディスク障害が発⽣したとき • 従来のステップ 1. データノードをデコミッションして 2. データノードを停⽌して 3. ディスクを交換して 4. データノードを再起動 ブロックの転送は ネットワークと ディスクI/Oを 消費する上 時間がかかる
47.
62© Cloudera, Inc.
All rights reserved. #2 ホットスワップについて http://www.cloudera.com/documentation/enterprise/latest/topics/admin_dn_swap.html • データノードでディスク障害が発⽣したとき • 従来のステップ 1. データノードをデコミッションして 2. データノードを停⽌して 3. ディスクを交換して 4. データノードを再起動 • データノードのホットスワップ機能を使うと 1. 対象のディレクトリを削除して 2. データノードのリフレッシュを実⾏(デコミッションや停⽌が不要) 3. 新たなディスクを追加して 4. データノードのリフレッシュを実⾏
48.
63© Cloudera, Inc.
All rights reserved. #2 問題の発⽣状況 • データノードに2種類の設定グループが存在 dfs.datanode.data.dir に12本のディスク /data2 /data3 /data4 . . . /data13 デフォルトグループ dfs.datanode.data.dir に12本のディスク /data1 /data2 /data3 . . . /data12 カスタムグループ
49.
64© Cloudera, Inc.
All rights reserved. #2 問題の発⽣状況 • 実際は・・・ • 過去のリフレッシュ時にデフォルトグループのデータノードに /data1 が追加 dfs.datanode.data.dir に12本のディスク /data1 /data2 /data3 /data4 . . /data13 デフォルトグループ dfs.datanode.data.dir に12本のディスク /data1 /data2 /data3 . . . /data12 カスタムグループ
50.
65© Cloudera, Inc.
All rights reserved. #2 問題の発⽣状況 • リフレッシュ後 /data1 に⼊っていたブロックがMISSING となり 検知された dfs.datanode.data.dir に12本のディスク /data1 /data2 /data2 /data3 /data3 /data4 /data4 . . . . /data13 /data13 デフォルトグループ dfs.datanode.data.dir に12本のディスク /data1 /data2 /data3 . . . /data12 カスタムグループ refresh後
51.
66© Cloudera, Inc.
All rights reserved. #2 ひとまず問題を解決するために 1. デフォルトグループのデータノードの設定に /data1 を追加 2. データノードを⼀台ずつ再起動することでブロックが検知され解消 dfs.datanode.data.dir に12本のディスク /data1 /data1 /data2 /data2 /data2 /data3 /data3 /data3 /data4 /data4 /data4 . . . . . . /data13 /data13 /data13 デフォルトグループ dfs.datanode.data.dir に12本のディスク /data1 /data2 /data3 . . . /data12 カスタムグループ
52.
67© Cloudera, Inc.
All rights reserved. #2 なぜこんな問題が起きたのか? • 発⽣タイミングの特定 • 何を⾒るか 1. データノードログ 2. CM Server ログ --> CM で実施するほぼすべてのオペレーションはログに記録される 3. CM Agent ログ --> ディレクトリの作成、権限設定は Agent の仕事なのでログに記録される 4. 設定履歴 ( のみ) --> いつ、誰が、何を変更したのか記録されている
53.
68© Cloudera, Inc.
All rights reserved. #2 データノードログの確認 • ディレクトリ名で grep して特定 2016-10-05 22:20:09,021 INFO org.apache.hadoop.conf.ReconfigurableBase: Change property: dfs.datanode.data.dir from "file:///data10/dfs/dn,file:///data11/dfs/dn,file:///data12/dfs/dn,file:/// data13/dfs/dn,file:///data2/dfs/dn,file:///data3/dfs/dn,file:///data4/dfs/dn,file:///data5/dfs/ dn,file:///data6/dfs/dn,file:///data7/dfs/dn,file:///data8/dfs/dn,file:///data9/dfs/dn" to "file:/// data10/dfs/dn,file:///data11/dfs/dn,file:///data12/dfs/dn,file:///data2/dfs/dn,file:///data3/dfs/ dn,file:///data4/dfs/dn,file:///data5/dfs/dn,file:///data6/dfs/dn,file:///data7/dfs/dn,file:///data8/ dfs/dn,file:///data9/dfs/dn,file:///data1/dfs/dn". 2016-10-05 22:20:09,021 INFO org.apache.hadoop.hdfs.server.datanode.DataNode: Reconfiguring dfs.datanode.data.dir to file:///data10/dfs/dn,file:///data11/dfs/dn,file:///data12/dfs/dn,file:/// data2/dfs/dn,file:///data3/dfs/dn,file:///data4/dfs/dn,file:///data5/dfs/dn,file:///data6/dfs/ dn,file:///data7/dfs/dn,file:///data8/dfs/dn,file:///data9/dfs/dn,file:///data1/dfs/dn 2016-10-05 22:20:09,056 INFO org.apache.hadoop.hdfs.server.datanode.DataNode: Adding new volumes: [DISK]file:/data1/dfs/dn/ /var/log/hadoop-hdfs/hadoop-cmf-HDFS-1-DATANODE-xxxx.log.out
54.
69© Cloudera, Inc.
All rights reserved. #2 データノードログの確認 • データノードが間違いなく /data1 を使⽤していたことを確認 /var/log/hadoop-hdfs/hadoop-cmf-HDFS-1-DATANODE-xxxx.log.out 2016-10-05 22:20:09,021 INFO org.apache.hadoop.conf.ReconfigurableBase: Change property: dfs.datanode.data.dir from "file:///data10/dfs/dn,file:///data11/dfs/dn,file:///data12/dfs/dn,file:/// data13/dfs/dn,file:///data2/dfs/dn,file:///data3/dfs/dn,file:///data4/dfs/dn,file:///data5/dfs/ dn,file:///data6/dfs/dn,file:///data7/dfs/dn,file:///data8/dfs/dn,file:///data9/dfs/dn" to "file:/// data10/dfs/dn,file:///data11/dfs/dn,file:///data12/dfs/dn,file:///data2/dfs/dn,file:///data3/dfs/ dn,file:///data4/dfs/dn,file:///data5/dfs/dn,file:///data6/dfs/dn,file:///data7/dfs/dn,file:///data8/ dfs/dn,file:///data9/dfs/dn,file:///data1/dfs/dn". 2016-10-05 22:20:09,021 INFO org.apache.hadoop.hdfs.server.datanode.DataNode: Reconfiguring dfs.datanode.data.dir to file:///data10/dfs/dn,file:///data11/dfs/dn,file:///data12/dfs/dn,file:/// data2/dfs/dn,file:///data3/dfs/dn,file:///data4/dfs/dn,file:///data5/dfs/dn,file:///data6/dfs/ dn,file:///data7/dfs/dn,file:///data8/dfs/dn,file:///data9/dfs/dn,file:///data1/dfs/dn 2016-10-05 22:20:09,056 INFO org.apache.hadoop.hdfs.server.datanode.DataNode: Adding new volumes: [DISK]file:/data1/dfs/dn/
55.
70© Cloudera, Inc.
All rights reserved. #2 CM Serverログの確認 • ディレクトリ名で grep して特定 2016-10-05 22:20:03,406 INFO 630935751@scm-web-121355:com.cloudera.cmf.service.ServiceHandlerRegistry: Executing role command RefreshDataNode BasicCmdArgs{args=[]}. Service: DbService{id=36, name=hdfs} Role: DbRole{id=412, name=hdfs-DATANODE-87bdc0df8fa3dc718873de138b3f301b, hostName=example.com} /var/log/cloudera-scm-server/cloudera-scm-server.log
56.
71© Cloudera, Inc.
All rights reserved. #2 CM Serverログの確認 • CM UI からリフレッシュを実⾏したときに記録される /var/log/cloudera-scm-server/cloudera-scm-server.log 2016-10-05 22:20:03,406 INFO 630935751@scm-web-121355:com.cloudera.cmf.service.ServiceHandlerRegistry: Executing role command RefreshDataNode BasicCmdArgs{args=[]}. Service: DbService{id=36, name=hdfs} Role: DbRole{id=412, name=hdfs-DATANODE-87bdc0df8fa3dc718873de138b3f301b, hostName=example.com}
57.
72© Cloudera, Inc.
All rights reserved. #2 CM Agentログの確認 • ディレクトリ名で grep して特定 [05/Oct/2016 22:20:04 +0000] 48933 MainThread agent INFO Chowning /data1/dfs/dn to hdfs (496) hadoop (497) [05/Oct/2016 22:20:04 +0000] 48933 MainThread agent INFO Chmod'ing /data1/dfs/dn to 0755 [05/Oct/2016 22:20:04 +0000] 48933 MainThread agent INFO Created /data1/dfs/dn /var/log/cloudera-scm-agent/cloudera-scm-agent.log
58.
73© Cloudera, Inc.
All rights reserved. #2 CM Agentログの確認 • CM Server からの命令をうけて CM Agent がディレクトリを⽤意 • Agent が作成したディレクトリを使⽤してデータノードは ブロックを書き込む [05/Oct/2016 22:20:04 +0000] 48933 MainThread agent INFO Chowning /data1/dfs/dn to hdfs (496) hadoop (497) [05/Oct/2016 22:20:04 +0000] 48933 MainThread agent INFO Chmod'ing /data1/dfs/dn to 0755 [05/Oct/2016 22:20:04 +0000] 48933 MainThread agent INFO Created /data1/dfs/dn /var/log/cloudera-scm-agent/cloudera-scm-agent.log
59.
74© Cloudera, Inc.
All rights reserved. #2 設定変更履歴の確認 • CM UI から確認する • HDFS --> 設定--> 履歴およびロールバック • 診断データから確認する • 診断データ http://www.cloudera.co.jp/blog/enterprise-support-diagnostics-data.html http://www.cloudera.co.jp/blog/secrets-of-cloudera-support-impala-and-search-make-the-customer- experience-even-better.html • サブスクリプションご購⼊のお客さまのクラスタから送られてくるクラスタの情報 • ログ、設定(履歴含む)、ホスト情報、イベント情報などを含む
60.
75© Cloudera, Inc.
All rights reserved. #2 設定変更履歴の確認 • CM UI から確認する • HDFS --> 設定--> 履歴およびロールバック • 診断データから確認する • 診断データ http://www.cloudera.co.jp/blog/enterprise-support-diagnostics-data.html http://www.cloudera.co.jp/blog/secrets-of-cloudera-support-impala-and-search-make-the-customer- experience-even-better.html • サブスクリプションご購⼊のお客さまのクラスタから送られてくるクラスタの情報 • ログ、設定(履歴含む)、ホスト情報、イベント情報などを含む
61.
76© Cloudera, Inc.
All rights reserved. #2 設定変更履歴の確認 ["configs",0,"groupName"] "hdfs-DATANODE-BASE" ["configs",0,"newValue"] "/data10/dfs/dn,/data11/dfs/dn,/data12/dfs/dn,/data2/dfs/dn,/data3/dfs/dn,/ data4/dfs/dn,/data5/dfs/dn,/data6/dfs/dn,/data7/dfs/dn,/data8/dfs/dn,/data9/dfs/dn,/data1/dfs/dn" ["configs",0,"oldValue"] "/data10/dfs/dn,/data11/dfs/dn,/data12/dfs/dn,/data13/dfs/dn,/data2/dfs/dn,/ data3/dfs/dn,/data4/dfs/dn,/data5/dfs/dn,/data6/dfs/dn,/data7/dfs/dn,/data8/dfs/dn,/data9/dfs/dn" ["message"] "Role config group 'DataNode Default Group' config update from API." ["userName"] ”user1" Wednesday October 05, 2016 11:43:52 am
62.
77© Cloudera, Inc.
All rights reserved. #2 設定変更履歴の確認 ["configs",0,"groupName"] "hdfs-DATANODE-BASE" ["configs",0,"newValue"] "/data10/dfs/dn,/data11/dfs/dn,/data12/dfs/dn,/data2/dfs/dn,/data3/dfs/dn,/ data4/dfs/dn,/data5/dfs/dn,/data6/dfs/dn,/data7/dfs/dn,/data8/dfs/dn,/data9/dfs/dn,/data1/dfs/dn" ["configs",0,"oldValue"] "/data10/dfs/dn,/data11/dfs/dn,/data12/dfs/dn,/data13/dfs/dn,/data2/dfs/dn,/ data3/dfs/dn,/data4/dfs/dn,/data5/dfs/dn,/data6/dfs/dn,/data7/dfs/dn,/data8/dfs/dn,/data9/dfs/dn" ["message"] "Role config group 'DataNode Default Group' config update from API." ["userName"] ”user1" Wednesday October 05, 2016 11:43:52 am
63.
78© Cloudera, Inc.
All rights reserved. #2 結論 • 当⽇午前にユーザー⾃⾝が実施した設定変更により /data1 が追加 • その後 /data1 が削除されたため⼀部のブロックがロストと レポートされた • /data1 とその中のブロック⾃⾝は残っていたため実際のデータ ロストには⾄らなかった • ホットスワップではディスクの削除はサポートしていないため デコミッションして不要なディレクトリ設定を排除するよう案内 http://www.cloudera.com/documentation/enterprise/latest/topics/admin_dn_swap.html
64.
79© Cloudera, Inc.
All rights reserved. 最後に ~ 本⽇紹介したドキュメントリンク集1 ~ • サポート要件 http://www.cloudera.com/documentation/enterprise/release-notes/topics/rn_consolidated_pcm.html • ホストインスペクタ http://www.cloudera.com/documentation/enterprise/latest/topics/cm_mc_host_inspector.html • CMが使⽤するポート⼀覧 http://www.cloudera.com/documentation/enterprise/latest/topics/cm_ig_ports_cm.html • CMアーキテクチャと設定の説明 http://www.cloudera.com/documentation/enterprise/latest/topics/cm_intro_primer.html • CMが⽣成するログファイル http://www.cloudera.com/documentation/enterprise/latest/topics/cm_ag_view_server_logs.html http://www.cloudera.com/documentation/enterprise/latest/topics/cm_ag_view_agent_logs.html http://www.cloudera.com/documentation/enterprise/latest/topics/cm_intro_primer.html • CMが利⽤するデータベース http://www.cloudera.com/documentation/enterprise/latest/topics/cm_ig_installing_configuring_dbs.html http://www.cloudera.com/documentation/enterprise/latest/topics/cm_ig_reqs_space.html
65.
80© Cloudera, Inc.
All rights reserved. 最後に ~ 本⽇紹介したドキュメントリンク集2 ~ • アップグレード関連 http://www.cloudera.com/documentation/enterprise/latest/topics/cm_ag_upgrading_cm.html http://www.cloudera.com/documentation/enterprise/latest/topics/cm_ag_upgrading_os.html • チャートの説明 http://www.cloudera.com/documentation/enterprise/latest/topics/cm_dg_chart_time_series_data.html • クラウドのリファレンスアーキテクチャ http://www.cloudera.com/documentation/other/reference-architecture.html • 診断データ http://www.cloudera.com/documentation/enterprise/latest/topics/cm_ag_data_collection.html http://www.cloudera.co.jp/blog/secrets-of-cloudera-support-impala-and-search-make-the-customer- experience-even-better.html • サポート社内のHadoopクラスタについて http://www.cloudera.co.jp/blog/quality-assurance-at-cloudera-runningupgrading-to-new-releases-on-our- own-edh-cluster.html
66.
81© Cloudera, Inc.
All rights reserved. Thank you
Jetzt herunterladen