Submit Search
Upload
【Ltech#11】Kubernetesを利用した機械学習モデルの本番適用例
•
Download as PPTX, PDF
•
0 likes
•
713 views
LIFULL Co., Ltd.
Follow
2020/10/29 Ltech#11 不動産領域のAI活用最前線 〜初完全リモート開催〜 AI戦略室データサイエンスグループ 島佑介
Read less
Read more
Technology
Report
Share
Report
Share
1 of 25
Download now
Recommended
ビズリーチの新サービスとMackerel
ビズリーチの新サービスとMackerel
Kimiya Sato
#CNDT2020 Cloud Foundry on K8sでクラ ウドネイティブ始めませんか?
#CNDT2020 Cloud Foundry on K8sでクラ ウドネイティブ始めませんか?
Hisazumi Arimoto
Cloud Foundry boosts NTT clouds - Pivotal Cloud Platform Roadshow: Tokyo
Cloud Foundry boosts NTT clouds - Pivotal Cloud Platform Roadshow: Tokyo
Ken Ojiri
Jupyterカーネルを魔改造した話
Jupyterカーネルを魔改造した話
Amazon Web Services Japan
CYDASアジャイル開発状況報告LT
CYDASアジャイル開発状況報告LT
真吾 吉田
#reco_tech AWSへ全面移行した今を話ます。
#reco_tech AWSへ全面移行した今を話ます。
recotech
20140627_packer
20140627_packer
masaomoc1015
Ec2へのspark導入とi pythonnotebookの連携
Ec2へのspark導入とi pythonnotebookの連携
Fukawa Shota
Recommended
ビズリーチの新サービスとMackerel
ビズリーチの新サービスとMackerel
Kimiya Sato
#CNDT2020 Cloud Foundry on K8sでクラ ウドネイティブ始めませんか?
#CNDT2020 Cloud Foundry on K8sでクラ ウドネイティブ始めませんか?
Hisazumi Arimoto
Cloud Foundry boosts NTT clouds - Pivotal Cloud Platform Roadshow: Tokyo
Cloud Foundry boosts NTT clouds - Pivotal Cloud Platform Roadshow: Tokyo
Ken Ojiri
Jupyterカーネルを魔改造した話
Jupyterカーネルを魔改造した話
Amazon Web Services Japan
CYDASアジャイル開発状況報告LT
CYDASアジャイル開発状況報告LT
真吾 吉田
#reco_tech AWSへ全面移行した今を話ます。
#reco_tech AWSへ全面移行した今を話ます。
recotech
20140627_packer
20140627_packer
masaomoc1015
Ec2へのspark導入とi pythonnotebookの連携
Ec2へのspark導入とi pythonnotebookの連携
Fukawa Shota
Cloud Foundryの件について@OpenStack Days Tokyo 2015
Cloud Foundryの件について@OpenStack Days Tokyo 2015
Ken Ojiri
Azure Kubernetes ServiceとコンテナのCI/CD
Azure Kubernetes ServiceとコンテナのCI/CD
ryosuke matsumura
Storylineでデザインする心地よい会話体験
Storylineでデザインする心地よい会話体験
真吾 吉田
Ansible はじめてみました
Ansible はじめてみました
Takeshi Kuramochi
Serverspecを導入したものの放置気味な人へ
Serverspecを導入したものの放置気味な人へ
Kishin Yagami
そろそろLambda(CI/CD編)
そろそろLambda(CI/CD編)
輝 子安
もっと気軽に始めるAnsible
もっと気軽に始めるAnsible
akira6592
BIGIP作業サービス化してみた
BIGIP作業サービス化してみた
kotasaegusa
Azure Load Testingを試してみた
Azure Load Testingを試してみた
Hiroyuki Mori
AWSによるサーバーレスアーキテクチャ
AWSによるサーバーレスアーキテクチャ
真吾 吉田
Ansibleの限界を超えてファイアウォールのプロビをした話
Ansibleの限界を超えてファイアウォールのプロビをした話
shomahirao
Keynote
Keynote
gree_tech
作って(壊して?)学ぶインターネットのしくみ サイバーエージェントの実験用ASの紹介 / Introduce experimental AS in ...
作って(壊して?)学ぶインターネットのしくみ サイバーエージェントの実験用ASの紹介 / Introduce experimental AS in ...
whywaita
JAWS DAYS 2017直前! AWS総復習
JAWS DAYS 2017直前! AWS総復習
Masanori Hayashi
JAWS-UG さいたま #11 参加報告
JAWS-UG さいたま #11 参加報告
Hiroyuki Numao
Serverless ArchitectureにおけるNoSQL Services 〜DynamoDBも良いけどSimpleDBも忘れないであげてください!!〜
Serverless ArchitectureにおけるNoSQL Services 〜DynamoDBも良いけどSimpleDBも忘れないであげてください!!〜
Terui Masashi
Azure Kubernetes ServiceとCI/CD pipeline
Azure Kubernetes ServiceとCI/CD pipeline
ryosuke matsumura
KubernetesでPHPを動かした話
KubernetesでPHPを動かした話
gree_tech
AWS re:invent振り返りServerlessでサーバコスト以外もいろいろ削減
AWS re:invent振り返りServerlessでサーバコスト以外もいろいろ削減
gree_tech
Kubernetes+Ansibleでつくる最新Linuxディストリビューション開発環境
Kubernetes+Ansibleでつくる最新Linuxディストリビューション開発環境
BMXUG
Kubernetesの良さを活かして開発・運用!Cloud Native入門 / An introductory Cloud Native #osc19tk
Kubernetesの良さを活かして開発・運用!Cloud Native入門 / An introductory Cloud Native #osc19tk
whywaita
Kuberneteの運用を支えるGitOps
Kuberneteの運用を支えるGitOps
shunki fujiwara
More Related Content
What's hot
Cloud Foundryの件について@OpenStack Days Tokyo 2015
Cloud Foundryの件について@OpenStack Days Tokyo 2015
Ken Ojiri
Azure Kubernetes ServiceとコンテナのCI/CD
Azure Kubernetes ServiceとコンテナのCI/CD
ryosuke matsumura
Storylineでデザインする心地よい会話体験
Storylineでデザインする心地よい会話体験
真吾 吉田
Ansible はじめてみました
Ansible はじめてみました
Takeshi Kuramochi
Serverspecを導入したものの放置気味な人へ
Serverspecを導入したものの放置気味な人へ
Kishin Yagami
そろそろLambda(CI/CD編)
そろそろLambda(CI/CD編)
輝 子安
もっと気軽に始めるAnsible
もっと気軽に始めるAnsible
akira6592
BIGIP作業サービス化してみた
BIGIP作業サービス化してみた
kotasaegusa
Azure Load Testingを試してみた
Azure Load Testingを試してみた
Hiroyuki Mori
AWSによるサーバーレスアーキテクチャ
AWSによるサーバーレスアーキテクチャ
真吾 吉田
Ansibleの限界を超えてファイアウォールのプロビをした話
Ansibleの限界を超えてファイアウォールのプロビをした話
shomahirao
Keynote
Keynote
gree_tech
作って(壊して?)学ぶインターネットのしくみ サイバーエージェントの実験用ASの紹介 / Introduce experimental AS in ...
作って(壊して?)学ぶインターネットのしくみ サイバーエージェントの実験用ASの紹介 / Introduce experimental AS in ...
whywaita
JAWS DAYS 2017直前! AWS総復習
JAWS DAYS 2017直前! AWS総復習
Masanori Hayashi
JAWS-UG さいたま #11 参加報告
JAWS-UG さいたま #11 参加報告
Hiroyuki Numao
Serverless ArchitectureにおけるNoSQL Services 〜DynamoDBも良いけどSimpleDBも忘れないであげてください!!〜
Serverless ArchitectureにおけるNoSQL Services 〜DynamoDBも良いけどSimpleDBも忘れないであげてください!!〜
Terui Masashi
Azure Kubernetes ServiceとCI/CD pipeline
Azure Kubernetes ServiceとCI/CD pipeline
ryosuke matsumura
KubernetesでPHPを動かした話
KubernetesでPHPを動かした話
gree_tech
AWS re:invent振り返りServerlessでサーバコスト以外もいろいろ削減
AWS re:invent振り返りServerlessでサーバコスト以外もいろいろ削減
gree_tech
Kubernetes+Ansibleでつくる最新Linuxディストリビューション開発環境
Kubernetes+Ansibleでつくる最新Linuxディストリビューション開発環境
BMXUG
What's hot
(20)
Cloud Foundryの件について@OpenStack Days Tokyo 2015
Cloud Foundryの件について@OpenStack Days Tokyo 2015
Azure Kubernetes ServiceとコンテナのCI/CD
Azure Kubernetes ServiceとコンテナのCI/CD
Storylineでデザインする心地よい会話体験
Storylineでデザインする心地よい会話体験
Ansible はじめてみました
Ansible はじめてみました
Serverspecを導入したものの放置気味な人へ
Serverspecを導入したものの放置気味な人へ
そろそろLambda(CI/CD編)
そろそろLambda(CI/CD編)
もっと気軽に始めるAnsible
もっと気軽に始めるAnsible
BIGIP作業サービス化してみた
BIGIP作業サービス化してみた
Azure Load Testingを試してみた
Azure Load Testingを試してみた
AWSによるサーバーレスアーキテクチャ
AWSによるサーバーレスアーキテクチャ
Ansibleの限界を超えてファイアウォールのプロビをした話
Ansibleの限界を超えてファイアウォールのプロビをした話
Keynote
Keynote
作って(壊して?)学ぶインターネットのしくみ サイバーエージェントの実験用ASの紹介 / Introduce experimental AS in ...
作って(壊して?)学ぶインターネットのしくみ サイバーエージェントの実験用ASの紹介 / Introduce experimental AS in ...
JAWS DAYS 2017直前! AWS総復習
JAWS DAYS 2017直前! AWS総復習
JAWS-UG さいたま #11 参加報告
JAWS-UG さいたま #11 参加報告
Serverless ArchitectureにおけるNoSQL Services 〜DynamoDBも良いけどSimpleDBも忘れないであげてください!!〜
Serverless ArchitectureにおけるNoSQL Services 〜DynamoDBも良いけどSimpleDBも忘れないであげてください!!〜
Azure Kubernetes ServiceとCI/CD pipeline
Azure Kubernetes ServiceとCI/CD pipeline
KubernetesでPHPを動かした話
KubernetesでPHPを動かした話
AWS re:invent振り返りServerlessでサーバコスト以外もいろいろ削減
AWS re:invent振り返りServerlessでサーバコスト以外もいろいろ削減
Kubernetes+Ansibleでつくる最新Linuxディストリビューション開発環境
Kubernetes+Ansibleでつくる最新Linuxディストリビューション開発環境
Similar to 【Ltech#11】Kubernetesを利用した機械学習モデルの本番適用例
Kubernetesの良さを活かして開発・運用!Cloud Native入門 / An introductory Cloud Native #osc19tk
Kubernetesの良さを活かして開発・運用!Cloud Native入門 / An introductory Cloud Native #osc19tk
whywaita
Kuberneteの運用を支えるGitOps
Kuberneteの運用を支えるGitOps
shunki fujiwara
[OracleCodeTokyo2019] Kubernetesで実現する運用自動化の新しいアプローチとは
[OracleCodeTokyo2019] Kubernetesで実現する運用自動化の新しいアプローチとは
Koto Shigeru
CloudNative Days Spring 2021 Online: Apache CamelおよびKeycloakを用いたAPI管理基盤の実現
CloudNative Days Spring 2021 Online: Apache CamelおよびKeycloakを用いたAPI管理基盤の実現
Hitachi, Ltd. OSS Solution Center.
【解説】IKE(IIJ Kubernetes Engine):= Vanilla Kubernetes + 何?
【解説】IKE(IIJ Kubernetes Engine):= Vanilla Kubernetes + 何?
IIJ
LIFULLの全社アプリケーション実行基盤 KEEL について
LIFULLの全社アプリケーション実行基盤 KEEL について
LIFULL Co., Ltd.
CyberAgentのインフラについて メディア事業編 #catechchallenge
CyberAgentのインフラについて メディア事業編 #catechchallenge
whywaita
KubeFlowでどこまでいける?
KubeFlowでどこまでいける?
Yuji Oshima
Osdt2015 saito
Osdt2015 saito
Hideki Saito
[External] 2021.12.15 コンテナ移行の前に知っておきたいこと @ gcpug 湘南
[External] 2021.12.15 コンテナ移行の前に知っておきたいこと @ gcpug 湘南
Google Cloud Platform - Japan
Azuredevopsakskeda
Azuredevopsakskeda
Tsukasa Kato
使ってわかった!現場担当者が語るOpenStack運用管理の課題:OpenStack Days 2015 Tokyo 講演
使ってわかった!現場担当者が語るOpenStack運用管理の課題:OpenStack Days 2015 Tokyo 講演
VirtualTech Japan Inc.
Apache Spark on Kubernetes入門(Open Source Conference 2021 Online Hiroshima 発表資料)
Apache Spark on Kubernetes入門(Open Source Conference 2021 Online Hiroshima 発表資料)
NTT DATA Technology & Innovation
OpenStack Summit Vancouver Summary
OpenStack Summit Vancouver Summary
Ikuo Kumagai
入門 Kubeflow ~Kubernetesで機械学習をはじめるために~ (NTT Tech Conference #4 講演資料)
入門 Kubeflow ~Kubernetesで機械学習をはじめるために~ (NTT Tech Conference #4 講演資料)
NTT DATA Technology & Innovation
AndApp開発における全て #denatechcon
AndApp開発における全て #denatechcon
DeNA
TUNA-Con#kubeapps.pdf
TUNA-Con#kubeapps.pdf
ssuser41e724
2015年GMOペパボ新卒エンジニア研修 Webオペレーション研修イントロダクション
2015年GMOペパボ新卒エンジニア研修 Webオペレーション研修イントロダクション
Takahiro Okumura
Osc 2021 fall_tis_変化に強いチーム育成のための取り組み紹介
Osc 2021 fall_tis_変化に強いチーム育成のための取り組み紹介
Daisuke Ikeda
【Cloud Week 2015@Hokkaido University】Dockerとインフラ運用自働化とIoT
【Cloud Week 2015@Hokkaido University】Dockerとインフラ運用自働化とIoT
cloudconductor
Similar to 【Ltech#11】Kubernetesを利用した機械学習モデルの本番適用例
(20)
Kubernetesの良さを活かして開発・運用!Cloud Native入門 / An introductory Cloud Native #osc19tk
Kubernetesの良さを活かして開発・運用!Cloud Native入門 / An introductory Cloud Native #osc19tk
Kuberneteの運用を支えるGitOps
Kuberneteの運用を支えるGitOps
[OracleCodeTokyo2019] Kubernetesで実現する運用自動化の新しいアプローチとは
[OracleCodeTokyo2019] Kubernetesで実現する運用自動化の新しいアプローチとは
CloudNative Days Spring 2021 Online: Apache CamelおよびKeycloakを用いたAPI管理基盤の実現
CloudNative Days Spring 2021 Online: Apache CamelおよびKeycloakを用いたAPI管理基盤の実現
【解説】IKE(IIJ Kubernetes Engine):= Vanilla Kubernetes + 何?
【解説】IKE(IIJ Kubernetes Engine):= Vanilla Kubernetes + 何?
LIFULLの全社アプリケーション実行基盤 KEEL について
LIFULLの全社アプリケーション実行基盤 KEEL について
CyberAgentのインフラについて メディア事業編 #catechchallenge
CyberAgentのインフラについて メディア事業編 #catechchallenge
KubeFlowでどこまでいける?
KubeFlowでどこまでいける?
Osdt2015 saito
Osdt2015 saito
[External] 2021.12.15 コンテナ移行の前に知っておきたいこと @ gcpug 湘南
[External] 2021.12.15 コンテナ移行の前に知っておきたいこと @ gcpug 湘南
Azuredevopsakskeda
Azuredevopsakskeda
使ってわかった!現場担当者が語るOpenStack運用管理の課題:OpenStack Days 2015 Tokyo 講演
使ってわかった!現場担当者が語るOpenStack運用管理の課題:OpenStack Days 2015 Tokyo 講演
Apache Spark on Kubernetes入門(Open Source Conference 2021 Online Hiroshima 発表資料)
Apache Spark on Kubernetes入門(Open Source Conference 2021 Online Hiroshima 発表資料)
OpenStack Summit Vancouver Summary
OpenStack Summit Vancouver Summary
入門 Kubeflow ~Kubernetesで機械学習をはじめるために~ (NTT Tech Conference #4 講演資料)
入門 Kubeflow ~Kubernetesで機械学習をはじめるために~ (NTT Tech Conference #4 講演資料)
AndApp開発における全て #denatechcon
AndApp開発における全て #denatechcon
TUNA-Con#kubeapps.pdf
TUNA-Con#kubeapps.pdf
2015年GMOペパボ新卒エンジニア研修 Webオペレーション研修イントロダクション
2015年GMOペパボ新卒エンジニア研修 Webオペレーション研修イントロダクション
Osc 2021 fall_tis_変化に強いチーム育成のための取り組み紹介
Osc 2021 fall_tis_変化に強いチーム育成のための取り組み紹介
【Cloud Week 2015@Hokkaido University】Dockerとインフラ運用自働化とIoT
【Cloud Week 2015@Hokkaido University】Dockerとインフラ運用自働化とIoT
More from LIFULL Co., Ltd.
20220319_新卒から活躍し続けるエンジニアが大切にしている5つのこと
20220319_新卒から活躍し続けるエンジニアが大切にしている5つのこと
LIFULL Co., Ltd.
趣味と仕事の違い、現場で求められるアプリケーションの可観測性
趣味と仕事の違い、現場で求められるアプリケーションの可観測性
LIFULL Co., Ltd.
Kubernetesセキュリティの歩き方
Kubernetesセキュリティの歩き方
LIFULL Co., Ltd.
Kubernetesクラスタバージョンアップを支える技術
Kubernetesクラスタバージョンアップを支える技術
LIFULL Co., Ltd.
LIFULL HOME'SでのSolrの構成と運用の変遷
LIFULL HOME'SでのSolrの構成と運用の変遷
LIFULL Co., Ltd.
LIFULLでは新卒エンジニアに 丸一日のテスト研修を行なっている
LIFULLでは新卒エンジニアに 丸一日のテスト研修を行なっている
LIFULL Co., Ltd.
SaPID を導入するまでとそれから
SaPID を導入するまでとそれから
LIFULL Co., Ltd.
3D間取りを支える技術
3D間取りを支える技術
LIFULL Co., Ltd.
LIFULL HOME'Sのおとり広告予測モデルの開発
LIFULL HOME'Sのおとり広告予測モデルの開発
LIFULL Co., Ltd.
大企業でアジャイル開発を推進できる条件とその心構え
大企業でアジャイル開発を推進できる条件とその心構え
LIFULL Co., Ltd.
スクラムを利用したアジャイルオフショア開発のとりくみ
スクラムを利用したアジャイルオフショア開発のとりくみ
LIFULL Co., Ltd.
実践 マーケティングテクノロジーエンジニア
実践 マーケティングテクノロジーエンジニア
LIFULL Co., Ltd.
エンジニア × マーケティングテクノロジー が必要な理由
エンジニア × マーケティングテクノロジー が必要な理由
LIFULL Co., Ltd.
「空飛ぶホームズくん」を実現するVR技術
「空飛ぶホームズくん」を実現するVR技術
LIFULL Co., Ltd.
ニオイセンサで思索する街の新たな指標
ニオイセンサで思索する街の新たな指標
LIFULL Co., Ltd.
Well-beingを測る「LIFE WILL」開発の舞台裏
Well-beingを測る「LIFE WILL」開発の舞台裏
LIFULL Co., Ltd.
㊗ LINE新着物件通知 リリース!! PJ進行に沿って話す、 PjM/PdMとして やったこと
㊗ LINE新着物件通知 リリース!! PJ進行に沿って話す、 PjM/PdMとして やったこと
LIFULL Co., Ltd.
ウェブアクセシビリティ推進活動はじめました
ウェブアクセシビリティ推進活動はじめました
LIFULL Co., Ltd.
大きめレガシープロジェクトのフロント行く末
大きめレガシープロジェクトのフロント行く末
LIFULL Co., Ltd.
新しい検索体験とデザインシステム
新しい検索体験とデザインシステム
LIFULL Co., Ltd.
More from LIFULL Co., Ltd.
(20)
20220319_新卒から活躍し続けるエンジニアが大切にしている5つのこと
20220319_新卒から活躍し続けるエンジニアが大切にしている5つのこと
趣味と仕事の違い、現場で求められるアプリケーションの可観測性
趣味と仕事の違い、現場で求められるアプリケーションの可観測性
Kubernetesセキュリティの歩き方
Kubernetesセキュリティの歩き方
Kubernetesクラスタバージョンアップを支える技術
Kubernetesクラスタバージョンアップを支える技術
LIFULL HOME'SでのSolrの構成と運用の変遷
LIFULL HOME'SでのSolrの構成と運用の変遷
LIFULLでは新卒エンジニアに 丸一日のテスト研修を行なっている
LIFULLでは新卒エンジニアに 丸一日のテスト研修を行なっている
SaPID を導入するまでとそれから
SaPID を導入するまでとそれから
3D間取りを支える技術
3D間取りを支える技術
LIFULL HOME'Sのおとり広告予測モデルの開発
LIFULL HOME'Sのおとり広告予測モデルの開発
大企業でアジャイル開発を推進できる条件とその心構え
大企業でアジャイル開発を推進できる条件とその心構え
スクラムを利用したアジャイルオフショア開発のとりくみ
スクラムを利用したアジャイルオフショア開発のとりくみ
実践 マーケティングテクノロジーエンジニア
実践 マーケティングテクノロジーエンジニア
エンジニア × マーケティングテクノロジー が必要な理由
エンジニア × マーケティングテクノロジー が必要な理由
「空飛ぶホームズくん」を実現するVR技術
「空飛ぶホームズくん」を実現するVR技術
ニオイセンサで思索する街の新たな指標
ニオイセンサで思索する街の新たな指標
Well-beingを測る「LIFE WILL」開発の舞台裏
Well-beingを測る「LIFE WILL」開発の舞台裏
㊗ LINE新着物件通知 リリース!! PJ進行に沿って話す、 PjM/PdMとして やったこと
㊗ LINE新着物件通知 リリース!! PJ進行に沿って話す、 PjM/PdMとして やったこと
ウェブアクセシビリティ推進活動はじめました
ウェブアクセシビリティ推進活動はじめました
大きめレガシープロジェクトのフロント行く末
大きめレガシープロジェクトのフロント行く末
新しい検索体験とデザインシステム
新しい検索体験とデザインシステム
【Ltech#11】Kubernetesを利用した機械学習モデルの本番適用例
1.
Copyright© LIFULL All
Rights Reserved. Kubernetesを利用した機械学習モデ ルの本番適用例 株 式 会 社 L I F U L L 島 佑 介
2.
Copyright© LIFULL All
Rights Reserved. 島 佑介 2015年入社 マ ー ケ テ ィ ン グ の 部 署 で バ ッ ク エ ン ド を 実 装 し て い ま し た が 、 機 械 学 習 の 本 番 適 用 に 関 わ っ て み た い と 思 い 異 動 し ま し た 。 A P I の 実 装 や イ ン フ ラ 設 定 な ど を し て い ま す 。 技 術 メ モ : h t t p s : / / q i i t a . c o m / e l y u n i m 2 6 ポ エ ム : h t t p s : / / n o t e . c o m / e l y u n i m 2 6 自己紹介
3.
Copyright© LIFULL All
Rights Reserved. 目次 タイトルに関しての概要についてが記載されます。タイトルに関しての概要につ いてが記載されます。 3.構成上のポイント 今回の施策の概要と全体感を説明します 2.施策と構成図 Kubernetesを使うにあたった経緯を説明します 1.導入
4.
Copyright© LIFULL All
Rights Reserved. 機械学習モデルを作った! デプロイはどうする🤔
5.
Copyright© LIFULL All
Rights Reserved. \SageMaker/
6.
Copyright© LIFULL All
Rights Reserved. 機械学習モデルをデプロイする際の最初の選択肢として AWS SageMakerがあると思います モデルのファイルとイメージをアップロードしてポチポチす れば手軽にデプロイすることができます 手軽にやるならSageMaker
7.
Copyright© LIFULL All
Rights Reserved. でも足りない場合もある
8.
Copyright© LIFULL All
Rights Reserved. シンプルな要件であればSageMakerだけでも運用できますが、 バックエンドAPIを他に作りたくなる場合もあります • 複数モデルへのリクエストを統合して1レスポンスで返す • 別APIへのリクエストが必要で推論処理と切り分けたい バックエンドAPIを別に作る
9.
Copyright© LIFULL All
Rights Reserved. バックエンドAPIを運用するのであれば、モデルの運用も同じ ように行いたいです • 監視、ロギング • CI/CD • 構成管理の記述 バックエンドAPIを別に作る
10.
Copyright© LIFULL All
Rights Reserved. • 内製ツール「KEEL」 • Kubernetesチームが開発、運用してくれてます • AWS EC2上にKubernetesクラスタがある • 主要サービスはほぼAWS上なのでGKEは使いづらい • EKSは最新バージョンへの追従が遅くて小回りがきかないらしい • HOME’S系の主要リポジトリは移行済み LIFULLのKubernetes活用事情
11.
Copyright© LIFULL All
Rights Reserved. • 1つの巨大クラスタによるスケールメリットの獲得 • k8s manifestをより簡易なYAMLから生成 • ロギング、監視、CI/CD等が簡単にできる • IstioによるRate LimitやCircuit Breaker • AWS CodeBuildとSpinnakerでデプロイ • スポットインスタンスも使える KEELでできること
12.
Copyright© LIFULL All
Rights Reserved. 物件リストページのおすすめ順最適化 • ユーザニーズに沿うように最適化 (すみませんが詳細は話せないです) 結果は良かったです (これも細部は話せないです) 今回の施策
13.
Copyright© LIFULL All
Rights Reserved. 構成図
14.
Copyright© LIFULL All
Rights Reserved.
15.
Copyright© LIFULL All
Rights Reserved. • モデルはAutoMLで作成 • 事前推論で値をSolrに入れておく • フロントからはSolrにリクエストしてレコメンド取得 モデル概要
16.
Copyright© LIFULL All
Rights Reserved. • BigQueryにあるユーザ行動データが入力 • 前処理でレアケースな物件を弾く • (賃料/面積)が規定範囲外など • 最適化するカラムをコンバージョンに設定 • 入力を採用するカラムを選ぶ →細かいチューニング抜きにモデルが作れる 😆 AutoMLでのモデル作成
17.
Copyright© LIFULL All
Rights Reserved. • 5つのモデルに並列アクセス • 比較のために旧モデルも同時に動かす • スポットインスタンスなので3割ほどのコストで運用できる • 事前推論なので一時的に止まってても影響は無い • オンデマンドとスポットを混ぜれば同時停止を回避できる(future work) • 一括処理時はm5.4xlargeが数個動く スポットの活用
18.
Copyright© LIFULL All
Rights Reserved. • 非同期処理の扱いがしやすい • 入力の型チェックの機構がある(Pydantic) • Pydanticで記述した入出力定義からAPI仕様ページを自動生成 Fast APIでのAPI作成
19.
Copyright© LIFULL All
Rights Reserved. • モデルはビルド時にコンテナイメージに格納 • ECRにモデル別のタグをつけて管理 • 問題があったらビルドで弾きたい • イメージに全部入ってるので非常時の対応がシンプルになる • モデルはそんなに頻繁に更新しない前提 • モデル変えるたびにmanifest変えないといけないのは課題(futurework) モデルの格納方法
20.
Copyright© LIFULL All
Rights Reserved. • コンテナ起動後にs3から取得する方法は採用しなかった • オペミスでモデルの参照が違ったときが怖い • 本番システムのSolrとつながってるので問題はなるべく起こしたくない • モデルを頻繁に更新するのであればこの方法も含めて検討 モデルの格納方法
21.
Copyright© LIFULL All
Rights Reserved. • KEEL用のYAMLを書くだけで設定が完了 • Istioの設定で同時接続数を制限 • podへのアクセスが多くなると即座にpodが503を返す • Istioのリトライ設定でリトライされる • 処理できるpodに回されて処理ができる 処理安定化のための取り組み
22.
Copyright© LIFULL All
Rights Reserved. • S o l r の 一 括 ロ ー ド 時 に 一 気 に リ ク エ ス ト が 来 る • 10000req/min程度 • 落ちないように敏感にスケールさせる • c p u l i m i t は そ こ そ こ 大 き め • 非同期処理なので負荷にばらつきがある • ス ケ ー ル し き い 値 は 小 さ め • スケールに失敗すると、非同期処理でCPU使用率が上がらないうちに連続 エラーや同時接続数でpodが退避されてスケールしないループに陥る パフォーマンスチューニング
23.
Copyright© LIFULL All
Rights Reserved. • AutoMLでさくっとモデルを作って、Kubernetesをwrapした社 内ツール「KEEL」で運用しています • コストカットと安定運用を両立できています 😆 ご清聴ありがとうございました 🙇 まとめ
24.
Copyright© LIFULL All
Rights Reserved. Appendix 私達と一緒に機械学習の本番導入を進めていく方を募集して います 詳細はこちらをご覧ください https://hrmos.co/pages/lifull/jobs/010-0041 We are hiring!!
25.
Copyright© LIFULL All
Rights Reserved. 再掲、構成図
Download now