1. EC2の天井を超える
クックパッド株式会社
菅原 元気

2. 自己紹介
菅原 元気 (@sgwr_dts / id:winebarrel)
白金台のほうから来ました
● クックパッド株式会社勤務
● インフラエンジニア
● Ruby・AWS関連ツールを公開しています
○ https://bitbucket.org/winebarrel/
○ https://github.com/winebarrel/

3. EC2の天井
Q. EC2の天井を見たことがありますか？

4. EC2の天井
事例① 初期のシンガポールリージョン

5. EC2の天井
事例② 弊社のVPC(tokyo)への移行
数百台規模のインスタンスのお引っ越し
VPC側にインスタンスが立たない！
→DoS的RunInstancesの実行

6. EC2の天井
事例③ APIのInternal Server Error New!
API叩きすぎるとInternal Server Error
DescribeTagsは特に弱い :::::::: ┌─────────────── ┐
:::::::: ｜DescribeTagsやられたようだな・・ │
::::: ┌───└───────────ｖ───┬┘
::::: ｜フフフ…奴はAPI四天王の中でも最弱… │
┌──└────────ｖ──┬───────┘
｜ DoSごときにやられるとは │
｜ API四天王の面汚しよ… │
└────ｖ─────────┘
|ﾐ, ／ ｀ヽ /! ,.──､
|彡/二Oニニ|ノ /三三三!, |!
`,' ＼､､＿,|/-ｬ ト `=j r=ﾚ /ミ !彡
T 爪| / /￣|/´＿_,ｬ |`三三‐/ |`=､|,='|
/人 ヽ ミ='／|`:::::::/ｲ＿_ ト｀ー く＿＿,-, ､ _!_ /
/ `ー─'" |_,.イ､ | |/､ Y /| | | j / ﾐ`┴'彡＼
DescribeInstances DeleteVolumes RunInstances

7. API Proxy Patternのご提案

8. API Proxy Patternのご提案
● Proxyサーバを経由して
APIに問い合わせ
● 結果をキャッシュすることで
スループットが一桁上がります！

9. …とここまではよかったのですが…

10. API Proxy Pattern 実装編
● Varnishを使って実装できそう
と思っていた

11. API Proxy Pattern 実装編
● Varnishを使って実装できそう
と思っていた→うまくいかない

12. API Proxy Pattern 実装編
● Varnishを使って実装できそう
と思っていた→うまくいかない
● Varnishが余計なヘッダをつける
● Hostをうまく変換できない

13. API Proxy Pattern 実装編
● さらにApacheを経由して
リクエストを書き換えようとする

14. API Proxy Pattern 実装編
● さらにApacheを経由して
リクエストを書き換えようとする
→うまくいかない

15. API Proxy Pattern 実装編
● さらにApacheを経由して
リクエストを書き換えようとする
→うまくいかない
● Apacheも余計なヘッダをつける
● プロキシしたヘッダの順序って
元のままなのだろうか…

16. API Proxy Pattern 実装編
● この辺で泥沼感が漂ってくる

17. API Proxy Pattern 実装編
● この辺で泥沼感が漂ってくる
● squidだとうまくいくんだろうか…
→使ったことない

18. API Proxy Pattern 実装編
● この辺で泥沼感が漂ってくる
● squidだとうまくいくんだろうか…
→使ったことない
● そもそも、POSTの中身を読んで
キャッシュの可否を判断できる
キャッシュサーバってあるのか？

19. API Proxy Pattern 実装編
………

20. API Proxy Pattern 実装編
Proxyサーバを作りました
ec2-api-proxy

21. DEMO

22. API Proxy Pattern まとめ
● APIコールをProxyサーバでキャッシュすること
で、スループットをあげられます
● 少し手を入れれば監査にも使えます

23. API Proxy Pattern まとめ
● …賢明な皆様におかれましては、既存のミドル
ウェアで実装することをおすすめします
○ (実装できたら教えてください）

24. 以上