５人程度の小チームによるアジャイル開発 大規模データ＋機械学習による言語処理 パブリック クラウドの大規模利用 立命館大学でのMOT&情報理工学部主催の講演。 音声対話は辞書整備とビックデータ＋機械学習の結晶。枯れた技術の組み合わせ！ これまでの社内プロセスから大きく逸脱。 社長の後押し＋シリコンバレー経験。 UX 向上を目指して、最新技術を用いて早く安く作ることだけを考え抜いたら、リーンスタートアップモデルに帰着。

1. © 2015 NTT DOCOMO, INC. All rights reserved.
君は大企業で何を
したいのか？
Mick Etoh, Ph.D.
SVP, NTT DOCOMO
CEO, NTT DOCOMO Ventures
CEO, Mirai Translate Inc.
1
質問は
@mickbeanへ

2. © 2015 NTT DOCOMO, INC. All rights reserved.
Siri v.s. しゃべってコンシェル (2012年４月ごろYouTubeの投稿より）
2

3. © 2015 NTT DOCOMO, INC. All rights reserved.
これって何がすごいか
５人程度の小チームによるアジャイル開発
大規模データ＋機械学習による言語処理
3
パブリック クラウドの大規模利用

4. © 2015 NTT DOCOMO, INC. All rights reserved.
横須賀のデータマイニング(2010)
4
Web解析
言語処理
これはRedShiftに巻き取ります。

5. © 2015 NTT DOCOMO, INC. All rights reserved.
First Implementation of ETSI AURORA Project (2000-2003)
16 Khz Sampling MFCC feature vectors --> 5.6 Kbps
Mobile Terminal
Feature
Extraction
Result
Encode
Server
Decode Rec.
Engine
Dictionary
5
分散音声認識
Distributed Speech Recognition(DSR) in 2006
布石となる開発は2005年にスタートしていた。

6. © 2015 NTT DOCOMO, INC. All rights reserved.
6
情報処理の基本形：Thin Client, Fat Pipe, Big Server, Big Data (2007-)
複雑な処理はサーバー側に寄せるという発想がすでにあった。

7. © 2015 NTT DOCOMO, INC. All rights reserved.
7
”思い付きの開発はしない.
技術アセットの蓄積を重視”
”データ量勝負に持ち込む.”
基本戦略

8. © 2015 NTT DOCOMO, INC. All rights reserved.
アラジンの魔法の
ランプを作れ
8
社長からの指令(2009)

9. © 2015 NTT DOCOMO, INC. All rights reserved.
ちょっと後でしょう。
9
いつやるか？

10. © 2015 NTT DOCOMO, INC. All rights reserved.
10
タイミング ＞＞ 方向性
何処を攻めるか＝方向性
R&Dマネージメントの難しさ

11. © 2015 NTT DOCOMO, INC. All rights reserved.
なんちゃってスカンクワークス(2010)
もうそろそろ作っても良いかも．
ただし，ステルスモードでやろう
はい，我々には音声認識とデータ
マイニングに関する経験がありますか
作るならパブリッ
ククラウドで作って
みたい．
11

12. © 2015 NTT DOCOMO, INC. All rights reserved.
12
着想は2010年
若手技術者からの提案

13. © 2015 NTT DOCOMO, INC. All rights reserved.
音声認識エンジン
音響モデル 言語モデル
音声認識
エンジン
きょうはいいてんきです
音響モデル、言語モデルから尤もらしいテキストを探索
『今日は良い天気です。』
音声データ
・Webデータ/コーパス
・検索データ、
Twitterデータ
・各種収集データ
実サービスでの収録
音声を活用
→ 雑音耐性が向上
10億超の文章データを活用
100万語レベルの辞書を構築
独自コーデックにより非圧縮時と
トランスペアレントな認識率を実現
13

14. © 2015 NTT DOCOMO, INC. All rights reserved.
Precision(%)
40
50
60
70
80
90
Text Data Amount in Million Lines
1 10 100 1000
14
データ量と音声認識正答率

15. © 2015 NTT DOCOMO, INC. All rights reserved.
信念：データが性能を支配する。
Speech
Speech
Data
Language
Data
Machine Learning Machine Learning
Acoustic
Model
Lexicon
Language
Model
Speech Recognition I want...
Text
Voice Recognition
15

16. © 2015 NTT DOCOMO, INC. All rights reserved.
ショッピング検索の発話例
•傘を買いたい
•カレンダーがほしい
•Tシャツのリストを見せて
・・・・・・
飲食店検索の発話例
•カレーが食べたい
•渋谷で忘年会したい
•禁煙席のあるファミレス
・・・・・・
カメラ起動の発話例
•カメラ起動
•写真撮影
•ビデオを撮りたい
・・・・・・
発話内容：
e.g.,来週の水曜日に会議の予定を登録
多様な発話例を収集
タスク
識別器
電話タスク
カメラ起動タスク
スケジューラタスク
飲食店検索タスク
・・・・・
機械学習
学習モデル入力
16
意図解釈エンジン概要

17. © 2015 NTT DOCOMO, INC. All rights reserved.
渋谷 の 近く で おいしい 焼き鳥
キャベツ と 鶏肉 を つかった レシピ
山田さんにメール、いま忙しい
食材 食材
地名 食品
人名
レシピ検索, KW=キャベツ,鶏肉
レストラン検索, LOC=渋谷
メール送信, To=山田,Body=いま忙しい
17
タスク判定・キーワード抽出例

18. © 2015 NTT DOCOMO, INC. All rights reserved.
形態素解析
カテゴリ付与
特徴量抽出
タスク判定
キーワード抽出
発話内容を形態素に分割
単語にカテゴリ情報を付与
形態素やカテゴリ等から特徴
量を抽出
上記特徴量と学習モデルに基
づきタスク判定を実行
発話内容に含まれる名詞とタ
スク判定結果からキーワード
を抽出
発話内容
18
意図解釈エンジンにおける処理

19. © 2015 NTT DOCOMO, INC. All rights reserved.
19
SVM & CRF
枯れた技術、枯らした技術を使いこなすことが大事。

20. © 2015 NTT DOCOMO, INC. All rights reserved.
20
メタ情報つきのデータが増えた。
東京スカイツリー：施設
中華レストラン：レストラン
データ集積

21. © 2015 NTT DOCOMO, INC. All rights reserved.
VoiceIt！完成
(2011年５月)
3/2012までに早く
出せ！名前は
しゃべってコンシェル
21
社長からの指令(11/2011)

22. © 2015 NTT DOCOMO, INC. All rights reserved.
22
総インストール数2900万以上、アクセス数11億以上（2015年4月末時点）

23. © 2015 NTT DOCOMO, INC. All rights reserved.
ユーザー急増
5/2011
ステルスプロダクト
データーセンター
開発の歴史
AWS
北米
11/2012
AWS
東京
Version 2
3/2012
Version 1
クラウド
23
社長に見つかる
トラフィック急増

24. © 2015 NTT DOCOMO, INC. All rights reserved.
24
クラウド利用は必然だった
量の変化 →質の変化
サーバー調達時間
従来のデータセンター：２ヶ月〜
パブリッククラウド ：１分〜
ソフトウェア化による開発手法の劇的変化
従来のデータセンター：ネットワーク＋サーバー
＋データベース＋ウェッブ技術者
パブリッククラウド：フルスタックエンジニアによ
る開発運用の一気通貫
https://clarity.fm/josecasanova/
expertise/full-stack-entrepreneur

25. © 2015 NTT DOCOMO, INC. All rights reserved.
基本アーキテクチャ2010
ログ収集
音声認識 タスク判定
ログ収集
Voice
text
text contents
サービスDB
contents
text
音声合成
(inspired by Microsoft Bing, and Google Voice Search)
25
Wireless Broadband Connections here!
疎結合がキモ！ 振り返ればMicro Servicesになっている！

26. © 2015 NTT DOCOMO, INC. All rights reserved.
Availability Zone #1
SmartPhone
Management
Server
Log Server for VR
Availability Zone #2
Voice Recognizer(VR) Task Recognizer(TR) Log management system
Same as
AZ #1
TR Servers
ELB
(across multiple
zones)
Tokenizer Access Log Servers
Availability Zone #3
VPC
VR Servers
LB
ELB
(across multiple
zones)
ELB
(across multiple zones)
26
システムアーキテクチャ2012
Cloud Nativeな設計になっていることに気づいてね。

27. © 2015 NTT DOCOMO, INC. All rights reserved.
0:00 1:00 2:00 3:00 4:00 5:00 6:00 7:00 8:00 9:00 10:00 11:00 12:00 13:00 14:00 15:00 16:00 17:00 18:00 19:00 20:00 21:00 22:00 23:00
27
Traffic Pattern
朝昼晩にディプロイ数を変えるのは当たり前

28. © 2015 NTT DOCOMO, INC. All rights reserved.
0 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23
30x traffic
# of servers
20:38 20:40 20:43 20:45
10min
28
Auto-Scaleで追いつかない爆発的トラフィック

29. © 2015 NTT DOCOMO, INC. All rights reserved.
29
長崎社長：「我々はインフラをソフトウェア化するためにAWSを作った」
Hardware v.s. Software

30. © 2015 NTT DOCOMO, INC. All rights reserved.
30
シェアリングできる
データセンター
プログラミングできる
データセンター
従来の
サーバープログラミング
“Cloud Native”な
プログラミング
Cloud 1.0 v.s. Cloud 2.0
coined by M.E.

31. © 2015 NTT DOCOMO, INC. All rights reserved.
31
シンプルな
Webサーバ
しゃべってコンシェル（Cloud-native）
データ分析基盤（On premise-hybrid）
プログラムできるデータセンターの⼤大規模利利⽤用が進展

32. © 2015 NTT DOCOMO, INC. All rights reserved.
アジャイル開発チーム in スカンクワークス
アジャイル
開発
Core engineer
Core engineer Development
promoter
Development
promoter
Product owner
32
もちろん、音声認識チーム、たす判定チームは別にある。

33. © 2015 NTT DOCOMO, INC. All rights reserved.
33
Pretotyping
Pretend
Prototyping

34. © 2015 NTT DOCOMO, INC. All rights reserved.
34
当時の彼の
アイデアスケッチ
コードを書く前に考え抜く。。

35. © 2015 NTT DOCOMO, INC. All rights reserved.
要求
設計
実装試験
運用・保守
UX向上 の追及
35

36. © 2015 NTT DOCOMO, INC. All rights reserved.
「リーンスタートアップモデル」
構築する
製品
学ぶ
データ
少ない予算と人数
で素早い製品展開
素早い投資判断
柔軟な資金調達
アドバイザー
ユーザーの声
アイデア
計測する
36
振り返ってみれば、このモデルになっていた。

37. © 2015 NTT DOCOMO, INC. All rights reserved.
37
中間まとめ
• ⾳音声対話は辞書整備とビックデータ＋機械学習の結晶。
枯れた技術の組み合わせ！
• これまでの社内プロセスから⼤大きく逸脱。
• 社⻑⾧長の後押し＋シリコンバレー経験。
• UX 向上を目指して、最新技術を用いて早く安く作ること
だけを考え抜いたら、リーンスタートアップモデルに帰着。

38. © 2015 NTT DOCOMO, INC. All rights reserved.
さて、ここでイノベーション
を議論したい。38

39. © 2015 NTT DOCOMO, INC. All rights reserved.
イノベーション
39
Architectural
or Disruptive
Modular
or Incremental
MRJTV
Personal Computer
Walkman
4G Network

40. © 2015 NTT DOCOMO, INC. All rights reserved.
40
http://i.kinja-img.com/gawker-media/image/upload/s--
Tz7ygtYP--/951732482365535304.jpg
Macro Cell Base Station
Small Cell Base Station
Centeraized Radio Access
Network
DOCOMO LTE-Advanced NetworkMRJ
Incremental or Modularなイノベーションだけど、大企業にしかできない。

41. © 2015 NTT DOCOMO, INC. All rights reserved.
要求
設計
実装
試験
運用・保守
41

42. © 2015 NTT DOCOMO, INC. All rights reserved.
DOCOM as Availability
99.9999% Big AWS User
“現状維持”
神社
“99.9999%”
寺院
社長
なんちゃって
スカンクワークス
42

43. © 2015 NTT DOCOMO, INC. All rights reserved.
99.9999% 寺院,
１年間の停止時間
31.5 秒以下
信念: 高可用性絶対維持
43

44. © 2015 NTT DOCOMO, INC. All rights reserved.
44
• 打率一割を仮定したプロジェクト管理が未整備。
• リスク’ゼロ’に向けた米国企業もしない超コンプライアン
ス経営。
• リスク＝ベネフィットという観念の欠如。リスクのない解
はそもそも かる解にならないのにリスク’ゼロ’を追求。
• 指令を受けたエリートv.s.夢に取り憑かれた起業家の混同。
• イノベーションの核となるアイデアは外！それを受容し統
合する機能が未整備。
大企業におけるイノベーションの困難さ

45. © 2015 NTT DOCOMO, INC. All rights reserved.
経営を「1階建てから2階建てにする」 Japan Innovation Network 紺野登、西口尚宏
45

46. © 2015 NTT DOCOMO, INC. All rights reserved.
46
Robert Falcon ScottRoald Amundsen
事業創造ステージ向き 事業立ち上げステージ向き

47. © 2015 NTT DOCOMO, INC. All rights reserved.
大企業でやるイノベーション の条件
1. 資産の利用
人材・才能，技術・知的財産，製品・サー
ビス，文化・風土，ブランド，など
2.最上位の企業理念に合致
3.本社・本業から隔離
4.トップの支援・権限委譲の明言
5.法制度未整備リスクへの挑戦
（初島会議2014の議論より）
47

48. © 2015 NTT DOCOMO, INC. All rights reserved.
48

49. 49
http://www.inter-accion.org/uploads/2/9/3/9/2939460/_2603205.jpg
イノベーションの定義
Joseph Schumpeter’s “neuer Kombinationen”
(Theorie der wirtschaftlichen Entwicklung)
新結合
Steve Jobs’“Connecting the dots”

50. © 2015 NTT DOCOMO, INC. All rights reserved.
50
“All technologies are combinations of
technologies that already exist.” —
• Combinatorial Explosion
(アイデアの組み合わせ的爆発）
• Creates Economy
（新しい経済の創造）
W. Brian Arthur

51. © 2015 NTT DOCOMO, INC. All rights reserved.
51
（再掲）しゃべってコンシェルの着想は2010年
若手技術者からの提案
ほら、Connecting Dotsしているでしょう！？

52. © 2015 NTT DOCOMO, INC. All rights reserved.
52
iPS(Induced Pluripotent Stem)
CELLS
Smart Phone x GPS x Google map
v.s.,

53. © 2015 NTT DOCOMO, INC. All rights reserved.
組み合わせを産む力はどこから？
53
Empathy
(共感）

54. Mark Zuckerberg Jack Dorsey
Elon Musk
Garrett Camp
Travis Lalanick
Drew Houston Jeff Lawson Marc Andreessen
54
Empathy- and Greed-driven.

55. © 2015 NTT DOCOMO, INC. All rights reserved.
彼らの共通点？
55
答：理系、コード書き

56. © 2015 NTT DOCOMO, INC. All rights reserved.
共感 をデザインする力は
どこから来る？
56

57. © 2015 NTT DOCOMO, INC. All rights reserved.
–Prof. Henry Chesbrough
Innovation = Invention + Business Model
57
これが難しい！

58. © 2015 NTT DOCOMO, INC. All rights reserved.
– National Innovation Initiative(NII)
(2004)
Innovation = invention x insight,
leading to the creation of social and economic value
58

59. © 2015 NTT DOCOMO, INC. All rights reserved.
59
２つのインサイトが重要
技術への洞察 社会への洞察
なんと建築学科と同じ！

60. © 2015 NTT DOCOMO, INC. All rights reserved.
日本を救うのはこの Unicorn
（滅多にいないという意味で）.
60
技術への洞察
リーダーシップ
社会への洞察

61. © 2015 NTT DOCOMO, INC. All rights reserved.
61
https://www.tuzzit.com/public/media/canevas/canvas_lean.png
1 1
2
3
4
55
6
7

62. © 2015 NTT DOCOMO, INC. All rights reserved.
62

63. © 2015 NTT DOCOMO, INC. All rights reserved.
63
Hustler
Hacker
Designer

64. © 2015 NTT DOCOMO, INC. All rights reserved.
64
Airbnbの開発現場

65. © 2015 NTT DOCOMO, INC. All rights reserved.
今やっておくこと
65
英語の読み書き
コード書き
専門教育

66. © 2015 NTT DOCOMO, INC. All rights reserved.
66
ソフトウェア化の時代
それは産業界の文明開化。
これまでの常識が非常識になる。
学生のうちにやれることをやっておこう。

67. © 2015 NTT DOCOMO, INC. All rights reserved.
67
いつか、あたりまえになることを。