パターン（ランゲージ）によるKnow Why/What/How の言語化・文書化と発展, MLSE夏合宿
•
0 likes•717 views
鷲崎弘宜, パターン（ランゲージ）によるKnow Why/What/How の言語化・文書化と発展, MLSE夏合宿, 2020年7月3日
Recommended
More Related Content
What's hot
What's hot (20)
Similar to パターン（ランゲージ）によるKnow Why/What/How の言語化・文書化と発展, MLSE夏合宿
Similar to パターン（ランゲージ）によるKnow Why/What/How の言語化・文書化と発展, MLSE夏合宿 (20)
More from Hironori Washizaki
More from Hironori Washizaki (20)
パターン（ランゲージ）によるKnow Why/What/How の言語化・文書化と発展, MLSE夏合宿
- 3. 3 建築におけるパターンの構成と例 ◼ パターンのタイトル、別名 ◼ 絵や写真 ◼ 他のパターンとの関係、適 用条件 ◼ 問題提起と検討 ◼ 解決法の説明とその図解 名前: 路上カフェ 問題: 忙しい都会において、衆目の中で合法的に腰 を下ろし、移りゆく世界をノンビリと眺められる 場所がほしい。 解決: 各近隣にカフェが開かれるよう促すこと。カフェ にはいくつかの部屋を設け、にぎやかな歩行 路に向けて解放し、座ってコーヒーなどの飲み 物を取りながら、移りゆく世界を眺められるよう な親しみのある場所に仕立てること。カフェの 前面は、室内からテーブル・セットが街路にそ のまま張り出すような作りとすること。 “それぞれのパターンは、我々の身の回 りで何回もおきる問題、および、それぞれ の問題に対する解法ポイントを記述して いる。我々は、これらの解法を何回でも 使うことができる。同じ問題に対する同じ 解法を、何度も何度も最初から考え直さ ずにすむというわけだ” -- C. Alexander [Alexander77] C. Alexander他著, 平田翰那訳, “パタン・ラ ンゲージ”, 鹿島出版, 1977 Alexander, Christopher, et al. A Pattern Language. Oxford University Press, 1977.
- 4. 4 建築におけるパターンランゲージ ◼ 粒度をまたいだ繋がり ◼ 街の中心部には 活動の拠点 として 小さな広 場 を設けよう。その広場には、訪問者や近隣 の人々が気軽に集い落ち着けるように、いくつ かの 路上のカフェ が集まってひらかれるよう に奨励しよう。それぞれのカフェは、オープン エアで楽しめるように 街路への開口 を持たせ られるとよい ・・・ ◼ 同一粒度における繋がり ◼ 快適に暮らせるためには 屋内の陽光 は不可 欠なので、 南向きの屋外 に庭をおきたいな。 さらに、部屋の陽光をたくさんとって快適にす るために どの部屋も二面採光 にしたい。そう そう、お客さんにも来てほしいから、 街路への 開口 をもうけて、玄関から寝室までうまく 親 密度の変化 をもたせたいね ・・・ 玄関 居間 寝室 庭 建物 口 街 路 街路 広場 カフェ
- 5. 5 パターンランゲージとソフトウェア ◼ ソフトウェアコミュニティが学んだこと ◼ 文脈（Know-Why）、問題（What）、解決（How）の言語化・文書化形式 ◼ 抽象的なビジョンと、具体的なライブラリ・指示の間の抽象度 ◼ 対話の手段、問題・解決の再利用、非機能要求満足とアーキテクチャ一貫 ◼ 特にソフトウェア設計、開発プロセス・組織構造 ◼ ソフトウェアコミュニティが（あまり）学ばなかったこと [羽生田] ◼ 利害関係者間の合意形成のための共通言語 ◼ 利用者参加型の仕組み、生成的 成功事例 文脈: こういうときに 問題: こうしたかったら・こう困っていたら フォース: こういうことを考慮して 解決: こうしなさい 結果: こうなるでしょう 新たな状況 解決 解決 抽象化 具象化 類似 抽象化 羽生田栄一 監修, パターンワーキンググループ著, "ソフトウェアパターン入門～基礎から応用へ～", ソフトリサーチセンター, 2005.
- 6. 機械学習工学とパターン （ランゲージ）への期待 ◼ 抽象と具象をつなぐ道具としての期待 ◼ 文脈（Know-Why）、問題（What）、解決 （How）の言語化 ◼ 問題・解決の再利用 ◼ 非機能要求満足とアーキテクチャの一貫性 ◼ 最初は設計、さらには要求やプロセスへ 6 ビジョン 事例 フレーム ワーク 作業 指示 ？ ？ ◼ 様々な関係者間の共通言語としての期待 ◼ ソフトウェアエンジニア、機械学習・データエン ジニア、ドメインエキスパート・・・
- 7. 機械学習応用の設計パターン文献 7 0 1 2 3 4 5 6 7 8 9 10 2008 2009 2010 2011 2012 2013 2014 2015 2016 2017 2018 2019 Scholarly Gray ◼ Engineering VillageおよびGoogle検索エンジンによる検索 ◼ 学術論文と灰色文献のいずれも概ね増加傾向 Hironori Washizaki, Hiromu Uchida, Foutse Khomh and Yann-Gael Gueheneuc, “Studying Software Engineering Patterns for Designing Machine Learning Systems,” The 10th International Workshop on Empirical Software Engineering in Practice (IWESEP 2019)
- 8. 例: Data Lake データレイク ◼ 問題：どのような分析を行う のか、どのようなフレームワ ークを用いて分析を行うの か、見通しがつきにくい。 ◼ 解決：構造化されたデータ から非構造化されたデータ まで、可能な限り「生」の状 態で一元化されたリポジトリ に保存する。異なるフレーム ワークを用いた並列分析を 可能にする。 8 非構造化デ ータ 構造化データ データ ソース ML framework MLフレーム ワーク ML framework 他のデータ解 析 挿入のみのデータストレージ 変換ツール データウェア ハウス Hironori Washizaki, Foutse Khomh, Yann-Gael Gueheneuc, “Software Engineering Patterns for Machine Learning Applications (SEP4MLA),” 9th Asian Conference on Pattern Languages of Programs (AsianPLoP 2020)
- 9. 例: Distinguish Business Logic from ML Models MLモデルからのビジネスロジック分離 ◼ 問題：推論エンジンにおける変化が他に大きく影響してしまう。 ◼ 解決：ビジネスロジックと推論エンジンを分離し、ビジネスロジックとML固 有のデータフローを疎結合する。 9 Haruki Yokoyama, Machine Learning System Architectural Pattern for Improving Operational Stability, ICSA-C, 2019 Hironori Washizaki, Foutse Khomh, Yann-Gael Gueheneuc, “Software Engineering Patterns for Machine Learning Applications (SEP4MLA),” 9th Asian Conference on Pattern Languages of Programs (AsianPLoP 2020) データレイヤロジックレイヤプレゼンテーションレイ ヤ ユーザイン タフェース データベー ス データ収集 データレイ ク Business Logic データ処理 推論エンジ ン 実世界 ビジネスロジ ック固有 ML固有 Architectural Layers Deployed as ML System Business Logic Data Flow ML Runtime Data Flow ML Development Data Flow Legend
- 10. パターン間の関係からランゲージへ 10 Data Lake Distinguish Business Logic from ML Models Uses Separation of Concerns and Modularization of ML Components Handshake Test the infrastructure independently from the machine learning Reuse Code between Training Pipeline and Serving Pipeline Data-Algorithm- Serving-Evaluator Closed-Loop Intelligence Canary Model Daisy Architecture Event-driven ML Microservices Microservice Architecture Data Lake Kappa Architecture Lambda Architecture Parameter-Server Abstraction Decouple Training Pipeline from Production Pipeline ML Versioning pattern Distinguish Business Logic from ML Models Gateway Routing Architecture Undeclared Consumers Abstraction Debt Pipeline Jungles Glue Code Big Ass Script Architecture Design Holistically about Data Collection and Feature Extraction Federated Learning Secure Aggregation Architecture pattern Design pattern Wrap Black-Box Packages into Common APIs Isolate and Validate Output of Model
- 11. パターンは身近に新たに見いだせる 11 通勤時間は誰にも 邪魔されないから、 好きな勉強ができる。 ちょっとした時間に 読める論文をいつも 持ち歩く。 空き時間に スマホで・・・ 夜はコミュニティの 集まりに出て・・・ 早起きして・・・ 社内で勉強会 を企画・・・ 1,5,10年後にこ うなりたいという 目標を持つ。 行き帰りの積み重ね ・文脈: 業務で忙しくしている。知 識の範囲が狭く広げたいと思って いる。 ・問題: 忙しく対象外の学習に時 間を割きにくい。 ・フォース:余分な時間は取れな いが、行き帰りのちょっとした時 間はある。 ・解決: 通勤のちょっとした時間に 本を読むなどして知識を無理なく 積み重ねる。 ・結果: 忙しい中でも知識の範囲 が無理なく広がっている。 通勤の 一工夫 みんなで成長 本を持ち歩く ・文脈 ・問題 ・解決 ・結果 電子書籍を持ち歩く ・文脈 ・問題 ・解決 ・結果
- 12. 機械学習工学こそ、パターン（ランゲージ）が必要！ ◼ JST未来社会 eAIプロジェクトでMLパターン調査中 ◼ 将来的にプロセス組み入れ、新パターンの特定、言語化へ ◼ 参考: PLoP パターンランゲージの国際会議 ◼ Hillside Group 主催 http://www.hillside.net/ ◼ アジア地域版 AsianPLoP http://asianplop.org/ 12 • Hironori Washizaki, Hiromu Uchida, Foutse Khomh and Yann-Gael Gueheneuc, “Studying Software Engineering Patterns for Designing Machine Learning Systems,” The 10th International Workshop on Empirical Software Engineering in Practice (IWESEP 2019) • Hironori Washizaki, Foutse Khomh, Yann-Gael Gueheneuc, “Software Engineering Patterns for Machine Learning Applications (SEP4MLA),” 9th Asian Conference on Pattern Languages of Programs (AsianPLoP 2020) • 鷲崎 弘宜, 名取 直毅, 竹内 広宜, 奥田 聡, 本田 澄, 土肥 拓生, 内平 直志, “機械学習応用システムのアーキテクチャ・デ ザインパターンの体系化に向けて”, ポスター, 第3回機械学習工学研究会(MLSE夏合宿2020) 7月13日セミナー 「IoT・機械学習応用ソフトウェアの設計とパターン」 http://smartse.jp
- 13. 13 参考: より深めるために ◼ パターンの原典をあたる ◼ C. Alexander他著, 平田翰那訳, “パタン・ランゲージ”, 鹿島出版, 1977 ◼ ソフトウェアパターンの広がり全体を掴む ◼ 深澤監修, 鷲崎, 丸山, 山本, 久保, “ソフトウェアパターン”, 近代科 学社, 2007. ◼ 羽生田栄一 監修, パターンワーキンググループ著, "ソフトウェアパ ターン入門～基礎から応用へ～", ソフトリサーチセンター, 2005. ◼ ソフトウェアパターンとパターンランゲージの最先端を知る ◼ 鷲崎, 江渡, 吉岡, 位野木, 本橋, 羽生田, 懸田, 井庭, “ソフトウェア パターン － 時を超えるソフトウェアの道", 情報処理, 情報処理学会, Vol.52, No.9, 2011.