ヒンシツ大学セミナーゴール指向の測定と品質保証活動 -メトリクス解説およびGqm法のワークショップ-

ゴール指向の測定と品質保証活動
-メトリクス解説およびGQM法のワークショ
ップ-
早稲田大学グローバルソフトウェアエンジニアリング研究所
鷲崎弘宜
Twitter: @Hiro_Washi washizaki@waseda.jp
http://www.washi.cs.waseda.ac.jp/
わしざきひろのり
ヒンシツ大学ET#07
2015年5月26日

• 早稲田大学グローバルソフトウェ
アエンジニアリング研究所所長・
准教授
• 国立情報学研究所客員准教授
• ISO/IEC/JTC1/SC7/WG20
Convenor
• IEEE CS Japan Chapter Chair
• SEMAT Japan Chapter Chair
• ACM-ICPC 2014 Tokyo Director
• IPSJ SamurAI Coding Director
• 運営: ASE, SEKE, SPLC, APSEC,
AsianPLoP…
• プログラム委員: ASE, ICST, …
• 論文: ICSE, ASE, CAiSE, ICST, … 2

早稲田大学グローバルソフトウェア
エンジニアリング研究所
• グローバル開発時代
のソフトウェアエンジ
ニアリング研究
• 鷲崎（所長）
• 東基衞（顧問）、筧、
深澤、岸、本田（所員
）
• 招聘研究員17 名
• 学生多数(留学生: 中
国、ノルウェー、メキ
シコ、インドネシア他)
3
HITACHI
YAHOO!
Google
FUJITSU
NEC
TOSHIBA
OGIS-RI
AfrelRECRUIT
Florida Atlantic U.
Benesse
信州大学
東京大学
IPANII
KOMATSU
QUNIENAIST
学芸大
IISEC
Shift

目次
• ソフトウェア品質とメトリクス
• メトリクスの落とし穴、コツ、事例
• メトリクスのテストへの応用研究
• ゴール指向の測定 GQM法
• ワークショップ
• まとめ
4

品質とは
• 品質: あるものの特性または属性 [American
Heritage Dictionary]
• ソフトウェア品質: ソフトウェアの使用時に必
要性を満たす能力を決定する属性全体
[ISO9126-1][ISO25000][JIS0129-1]
– 属性: ソフトウェアの定性的/定量的に測定可能
な特徴
5

メトリクス（Metric / Metrics）
• 測定の方法と尺度
– 方法: 属性（測定可能な特徴）の尺度上の値や分類への
対応付け
– 尺度: 値や分類の集合
• 測定できない事柄は、管理できない（T. DeMarco）
– ソフトウェア工学 = ソフトウェアの開発、運用、および保
守に対する系統的で規律に基づいた定量的アプローチ
[SWEBOK]
– Prj成功率 31% → 定量的評価導入Prj 46% [矢口08]
……
……
……
測定方法
測定尺度
測定プロセス
メトリクス
測定結果
（値、分類）
6
[SWEBOK] 松本吉弘監訳: ソフトウェアエンジニアリング基礎知識体系―SWEBOK2004, オーム社, 2005.
[矢口08] 矢口竜太郎, 吉田洋平: 成功率は31.1%, 日経コンピュータ12月1日号, 2008.

品質保証活動と測定
• 早期に検証して欠陥の早期発見・除去
• 測定によるプロダクト（およびプロセス）品質評価と改善
7
レビュー
形式検証
価値分析
要求分析
詳細設計
実装 (コンパイラチェック)
単体テスト
統合テスト基本設計
受入れテストレビュー
測定
レビュー
形式検証
プロセス定義
レビュー
静的テスト

主なメトリクス
名称定義用途
コード行数（LOC）コードの行数規模の把握、他のメトリ
クスの正規化
ファンクションポイン
ト（FP）
機能量規模の見積もり
サイクロマティック複
雑度（CC）
制御フローグラフの経路
数
複雑さの把握
凝集度モジュール内の要素のま
とまり
複雑さの把握
結合度モジュール間の結合関係
の多さ
複雑さの把握
欠陥密度（DD）欠陥数 / 新規・変更LOC 品質の把握、開発プロセ
ス全体の有効性把握
欠陥除去率（DRE）欠陥摘出数 / 当該時点
欠陥数
開発プロセス全体や工
程の有効性把握
消化済みテストケー
ス数
当該時点までの消化済
みテストケース数
テストの進捗把握
プロダクト
プロセス
8

メトリクスの使いどころ
• 現在: 把握、評価
• 未来: 予測、計画
要求
定義
設計実装テスト
機能
仕様書
ファンクション
ポイント
モジュール
設計
凝集度
結合度
ソース
コード
複雑度
コード行数
欠陥票
欠陥密度
テスト
ケース
消化数
工数、期間
9

目次
• まとめ
10

何行ですか？
11
1:/* strncat()は、文字列srcからcount数の文字を文字列destに付加し、さ
2:らに終端にnull文字を付加する。重なるオブジェクト間でコピーしようとする
3:場合、動作は未定義である。*/
4:char *strncat(char *dest, const char *src, size_t count)
5:{
6: char *temp=dest;
7: if (count) {
8: while (*dest)
9: dest++;
10: while ((*dest++=*src++)) {
11: if (--count ==0) {
12: *dest＝‘¥0’; break;
13: }
14: }
15: } return temp;
16:}
リンダ・M・ライルド, M・キャロル・ブレナン著, 野中誠, 鷲崎弘宜訳 , "演習で学ぶソフトウエアメトリクスの", 日経BP社 , 2009.

落とし穴「ホーソン効果」
12

I. 解釈
（評価基準）
コツ「ゴール指向のメトリクス定義」
• Goal-Question-Metric（GQM）パラダイム
M. メトリクス
G. 目標
Q. 質問
測定対象（データ）
達成評価
答え
測定値
13
楠本真二, 肥後芳樹, “GQMパラダイムを用いたソフトウェアメトリクスの活用”, コンピュータソフトウェア, 2012.
V. Basili, et al.: Goal, Question, Metric Paradigm, Encycloperia of Software Engineering, Vol. 1(1994)

コツ「多面的に測り、最後は現物」
14
G.信頼性 G.保守性 G.移植性G.効率性 G.再利用性
G.解析性 G.変更性 G.試験性目標
メトリクス
M.コールグラフ
階層の深さ
M.サイクロ
マティック複雑度
M.関数内の
戻り点の数
G.安定性
・・・・・・
Q.制御構造が
複雑すぎない
か?
質問
副質問
Q.処理が複雑
すぎないか？
Q.処理が構造
化されているか？
Q.複雑な文を記
述していない
か？
・・・・・・
・・・
…… …
…… …
…… …
…… …
プログラム
ソースコード
鷲崎弘宜,田邉浩之,小池利和,ソースコード解析による品質評価の仕組み,日経エレクトロニクス 2010/1/25
[Adqua] http://www.ogis-ri.co.jp/product/b-08-000001A6.html

事例: Yahoo! Japanとの取り組み
メトリクスによる保守性・機能性評価・改善
15H. Nakai, et al. Initial Industrial Experience of GQM-based Product-Focused Project Monitoring with Trend Patterns, APSEC'14

落とし穴「値を信頼できるとは限らない」
16
1:/* strncat()は、文字列srcからcount数の文字を文字列destに付加し、さ
2:らに終端にnull文字を付加する。重なるオブジェクト間でコピーしようとする
3:場合、動作は未定義である。*/
4:char *strncat(char *dest, const char *src, size_t count)
5:{
6: char *temp=dest;
7: if (count) {
8: while (*dest)
9: dest++;
10: while ((*dest++=*src++)) {
11: if (--count ==0) {
12: *dest＝‘¥0’; break;
13: }
14: }
15: } return temp;
16:}

I. 解釈
ダッシュボード
コツ「ツールで客観的に、組織で一貫」
17
M. メトリクス
G. 目標
Q. 質問
対象（データ）
評価
答え
測定値
モニタ
ツール
メトリクスシステム
H. Nakai, et al. Initial Industrial Experience of GQM-based Product-Focused Project Monitoring with Trend Patterns, APSEC'14
K. Honda, et al., Predicting Time Range Based on Generalized Software Reliability Model , APSEC’14

落とし穴「未来が今の延長とは限らない」
18

コツ「不確実性を考慮した測定と予測」
• 予測における幅と種別
19
0
10
20
30
40
50
60
70
80
90
0 5 10 15
• 経験に基づく仮定明示
M. 呼び出し先
モジュール数
G. 変更されやすい
箇所を特定できている
Q. モジュールの依存
関係はどの程度か？
M. 呼び出し元
モジュール数
A. あちこちと依存するモ
ジュールは変更されやすい
Monden, Basili, et al.: Customizing GQM Models for Software Project Monitoring, IEICE Trans., 2012.
Basili, V.R., et al. Linking Software Development and Business Strategy Through Measurement, IEEE Computer, 2010.

事例: 不確実性を考慮した欠陥予測
予測欠陥数の変動欠陥数と予測モデル
不確実性
20

コツ「メトリクスシステムの改善」
21
N. Tsuda, et al. Iterative Process to Improve GQM Models with Metrics Thresholds to Detect High-risk Files, SANER'15 Doctoral

22
人手
レビュー
Adqua＋
評価ツール
事例: コマツとの取り組み
保守性評価メトリクスシステム改善
I
A
Q
M
G
機械学習＋
人手精査
M
改善

事例3（つづき）: 責務過多なファイル特定
23
10 25
300
150
M. 関数の数
M.実行行数
OK
NG
71
M. 関数の数
M.実行行数
OK
NG
△ 人手OK, ○ 人手NG

目次
• まとめ
24

類似プロダクトの実績を用いたテスト優先度付け
• 早稲田大学×シフト社共同研究、IEEE ICST’15 採択
– テスト観点あたりの発見欠陥数
– 全体における欠陥検出割合
25
Tadahiro Noguchi, Hironori Washizaki, Yoshiaki Fukazawa, Atsutoshi Sato, Kenichiro Ota, “History-Based Test Case
Prioritization for Black Box Testing on a New Product using Ant Colony Optimization,” Proceedings of the 8th IEEE International
Conference on Software Testing, Verification, and Validation (ICST 2015), Testing in Practice track

26
CRUD
認証
脆弱
性
検索
レイアウ
ト
CRUD
認証
脆弱
性
検索
レイアウ
ト
18
3
4
1
CRUD
認証
脆弱
性
検索
レイアウ
ト
CRUD
認証
脆弱
性
検索
レイアウ
ト
CRUD
認証
脆弱
性
検索
レイアウ
ト
# テスト観点
1 CRUD
2 認証
3 レイアウト
4 脆弱性
5 検索

目次
• まとめ
27

Goal-Question-Metric (GQM) パラダイム
• 明確に目標を据えて、目標に対して必要なメトリクスを対応
付けるゴール指向（目標指向）な枠組み
• 目標（Goal）: 測定上の目標
• 質問（Question）: 目標の達成を評価するための質問
• メトリクス（Metric）: 質問に回答するために必要な定量的デ
ータを得るための主観的・客観的メトリクス
測定する事柄
の決定
測定結果の
解釈
M. メトリクス
G. 目標
Q. 質問
収集データ
目標達成評価
答え
測定値
R. van Solingen, E. Berghout, “The Goal/Question/Metric Method” McGraw-Hill Education, 1999; ISBN 0-07709-553-7.
28

GQMモデル（グラフ）の例
• 目標
– G. コードクローン含有の観点から保守性の低いコードを
特定できている。
• 質問
– Q1: コードクローンは存在するか？ → M1, M2
– Q2: 発見されたコードクローンは保守上有害か？ → M3
• メトリクス
– M1：ソースコードの全体的な重複度
– M2: モジュール単位のコードクローン含有率
– M3: コードクローンに対するマネージャの主観的評価
29
G
Q1 Q2
M1 M2 M3

目標テンプレートとコンテキスト
• 目標の一般性、扱う範囲の明確化
• テンプレート
– 例: コードクローン含有の観点から保守性の低いコードを
特定できている。
– 対象 (Analyze) 例: ソースコード
– 目的 (Purpose) 例: 保守性の低いコードの特定
– 関心 (Respect to) 例: コードクローン情報
– 視点 (View) 例: プロジェクトマネージャ
– 環境 (Context) 例: A社の開発環境
• 環境
– ドメイン、開発者数、経験、開発プロセス・手法、規模・工
数、信頼性要求、・・・
30

Question導出の観点
• 測定対象そのものを目的から見て明確にする
– 例: ○○はいくらか？
• 対象の属性を評価者の視点から見て明確にす
る
– 例: ○○は（従来と比べて）改善されているか？
• 対象の特徴を評価者の視点から見て評価する
– 例: ○○は××からみて目に見えて改善されている
か？
31

GQMの拡張
• 上位／ビジネスゴール（参考: GQM+Strategies）
– 測定上のGoalの上位ゴール
– B. 収益が拡大している -> G. 収益向上を予測できている
– B. ツールが開発状況の把握に役立っている -> G. 要求の不安定
さを把握できている
• 仮定（Hypothesis, Assumption）
– Question導出にあたり仮定している事柄
– A. 要求が不安定であれば設計は頻繁に変更される。
• 解釈（Interpretation）
– もし「条件式」ならば「Goalはこのように達成・未達成である」
– I. もしLOCが少なすぎず、かつ、設計変更回数が一定以上ならば
、要求が不安定な可能性がある。
• メカニズム（Mechanism）
– データの収集と報告を実施する責任者、収集・報告頻度、必要な
インフラ
– 例: プロジェクトマネージャが毎週、ＸＸＸレポートを参照して・・・
32
リンダ・M・ライルド, M・キャロル・ブレナン著, 野中誠, 鷲崎弘宜訳 , "演習で学ぶソフトウエアメトリクスの基礎ソフトウエアの測定と
見積もりの正しい作法", 日経BP社 , 2009.
Monden, Basili, et al.: Customizing GQM Models for Software Project Monitoring, IEICE Trans., 2012.

GQMの拡張: 仮定と解釈
33Monden, Basili, et al.: Customizing GQM Models for Software Project Monitoring, IEICE Trans., 2012.
G. 特定プロジェクトにおける要求の不安定さを把握できている
Q. ソースファイルの
変更頻度はいくらか？
Q. ファイルの変更
規模はいくらか？
FCt. 一週間以内の
ファイル更新回数
FCd. 一週間以内の削除
を伴うファイル更新回数
FLa. 一週間以
内の追加行数
A. 要求が不安定であれば
コードは頻繁に削除を
伴って変更される
A. 要求が不安定であれば
コードは大きく変更される
FLd. 一週間以
内の削除行数
I. FCt が極端に大きくなく、かつ、
FCdが以前よりも大きいのであれ
ば、要求が不安定な可能性あり
I. FLa が極端に大きくなく、かつ、
FLdが以前よりも大きいのであれ
ば、要求が不安定な可能性あり
・・・

目次
• まとめ
34

ワークショップ
1. Goalのブレーンストーミング、チーム分け
– プロダクトの品質評価、改善
– 品質保証活動の評価、改善
– その他
2. チームでGQM適用
– Goal詳細化（必要であればビジネスゴールも）
– Question導出（仮説も）
– Metric識別（解釈も）
3. チーム内で見直し、修正
– そもそものビジネスゴールに照らした妥当性
– G-Q-M の縦の妥当性
– Q-M の横の広がりの網羅性
4. 講評、振り返り、今後のアクション
35

目次
• まとめ
36

まとめ、メッセージ
• ソフトウェア開発の厳しさとメトリクスの重要性
– 開発の管理、品質把握と改善
• メトリクスの限界を知り意思決定に役立てる
– 測定方法、信頼性、妥当性、負のホーソン効果
• GQMによるゴール指向の測定
– 測定と改善のプロセス
– GQM+Strategiesによる組織目標へのひもづけ
37

予告とお願い
• 情報処理推進機構（IPA）「2015年度ソフトウェア工学
分野の先導的研究支援事業に関する委託契約」
• http://www.ipa.go.jp/about/kobo/kobo20141201.html
• 申請課題「ソフトウェア製品群の測定評価と分析によ
る製品品質の実態定量化および総合的品質評価枠
組みの確立」（2015-2016年間、代表: 鷲崎）
• 日本の約40製品の品質の実態調査
• 内部品質、外部品質、利用時の品質を定量的に測定
評価、影響関係を精密かつ総合的に明らかに
• 品質間の関係を総合的に実証した初のベンチマーク
• 測定評価対象の公募等の詳細は6月を予定
38

• メトリクス全般
– リンダ・M・ライルド, M・キャロル・ブレナン著, 野中誠, 鷲崎弘宜訳 , "演習で学ぶソフトウエア
メトリクスの基礎ソフトウエアの測定と見積もりの正しい作法", 日経BP社 , 2009.
• GQM
– 鷲崎弘宜、”ゴール指向の測定評価と留意 – GQMパラダイムと拡張 -”、メトリクス公団、Vol.1
、TEF東海メトリクス勉強会、2013.
– 楠本真二、肥後芳樹: “GQMパラダイムを用いたソフトウェアメトリクスの活用”、コンピュータ
ソフトウェア、29(3)、pp.29-38、2012.
– Basili, V., Caldiera, C., and Rombach, D.: “Goal, Question, Metric Paradigm, Encyclopedia of
Software Engineering,” Vol.1, pp. 528–532, 1994.
• GQM+Strategies
– Basili, V.R., Lindvall, M., Regardie, M., Seaman, C., Heidrich, J., Munch, J., Rombach, D.,
Trendowicz, A.: “Linking Software Development and Business Strategy Through
Measurement,” IEEE Computer, Vol.43, No.4, pp.57-65, 2010.
– 早稲田大学ゴール指向経営研究会、「残念なシステム」のなくしかた、日経ITPro、連載、2014
年5月14日～6月11日
• 事例
– 鷲崎弘宜, 田邉浩之, 小池利和, “ソースコード解析による品質評価の仕組み”, 日経エレクト
ロニクス, 2010年1月25日号, 2010.
– 鷲崎弘宜, 阿左美勝, 田邉浩之, “モデル活用の効能: 第1回モデルを書く意味”～ “モデル活
用の効能: 第4回参加チームの事例3″,日経エレクトロニクス, 日経BP社, 2011年8月8日号～
11月号
– Kiyoshi Honda, Hidenori Nakai, Hironori Washizaki, et al., “Predicting Time Range of
Development Based on Generalized Software Reliability Model,” 21st Asia-Pacific Software
Engineering Conference (APSEC 2014)
– Seiji Sato, Hironori Washizaki, et al., “Effects of Organizational Changes on Product Metrics and
Defects,” 20th Asia-Pacific Software Engineering Conference (APSEC 2013).
– Ryohei Takasawa, Kazunori Sakamoto, Akinori Ihara, Hironori Washizaki, Yoshiaki
Fukazawa, “Do open source software projects conduct tests enough?,” 15th International
Conference of Product Focused Software Development and Process Improvement (Profes
2014)
– Susumu Tokumoto, Kazunori Sakamoto, Kiyofumi Shimojo, Tadahiro Uehara and Hironori
Washizaki, “Semi-automatic Incompatibility Localization for Re-engineered Industrial
Software,” 7th IEEE International Conference on Software Testing, Verification and Validation
(ICST 2014)
39

ヒンシツ大学セミナーゴール指向の測定と品質保証活動 -メトリクス解説およびGqm法のワークショップ-

Recommended

Recommended

More Related Content

What's hot

What's hot (19)

Viewers also liked

Viewers also liked (20)

Similar to ヒンシツ大学セミナーゴール指向の測定と品質保証活動 -メトリクス解説およびGqm法のワークショップ-

Similar to ヒンシツ大学セミナーゴール指向の測定と品質保証活動 -メトリクス解説およびGqm法のワークショップ- (20)

More from Hironori Washizaki

More from Hironori Washizaki (20)