2019/08/23 JVM Language Summit Report Event at KanJava JUG https://kanjava.connpass.com/event/139770/ This slide is about GraalVM, especially SubstrateVM that is able to generate native images.

1. JVM Language Summit
レポート
- GraalVM編 -
関西Javaエンジニアの会
阪田 浩一
#kanjava

2. About Me
• 阪田 浩一 (Koichi Sakata)
• KanJava JUG Leader/Founder
•
• Twitter: @jyukutyo
• Blog: sakatakoichi.com
• JVMになりたい人
– GCとJITコンパイラに関心

3. Today’s Target
GraalVMでの
ネイティブイメージ生成、
その概要と歴史を
知る

4. アジェンダ
• GraalVMとは
– 以前の関ジャバイベントの内容と重複します
• ネイティブイメージ生成機能の詳細

5. http://www.graalvm.org/

6. Question
GraalVMは
JVM？

7. GraalVMは
JVMの機能を
すべて包含します

8. 既存のJVMにできることは
すべてできます

9. ベースはHotSpot VM

10. ただし、
JITコンパイラが
異なります

11. HotSpotVM
Compiler Interface
C2C1
HotSpotVM
C++

12. GraalVM
Compiler
Interface
GraalC1
HotSpotVM
JVMCI
Java

13. GraalVM ≠ Graal

14. Summary
• GraalVMは
–JVMにできることがすべてできる
–Java製JITコンパイラGraalを持つ

15. Graal JITコンパイラの
何がいいの？

16. Pros
• Graal上に構築した
言語実装用フレームワーク
Truffleがある

17. Truffle
• トラフル（トリュフ）
• 言語実装用フレームワーク
– ASTインタプリタ構築の基盤を提供する

18. Truffleで実装した言語を
(Graalを通し)
GraalVM上で実行できる

19. 言語を実装して
何がうれしいの？

20. さまざまな言語を
実行できる環境として
高パフォーマンス

21. Polyglot on the JVM with Graal

22. さらに、その言語間で
相互に呼び出しできる

23. Truffleでの言語実装
HotSpot VM
JVMCI
Graal
JVM Lang Truffle
LLVMJS R Ruby
C C++
Fortran
Interpreter

24. GraalVMとは
高パフォーマンスな
多言語実行環境

26. Polyglot
=
多言語を実行できる

27. GraalVM
• 研究から生まれたプロダクト
– Oracle Labs
– ヨハネス・ケプラー大学
• オーストリア
• Compiler and JVM Research at JKU
– GraalやTruffleについての論文多数
• 大学内にOracle Labsのブランチがある
• オープンソース（Community Edition: 後述）
• https://github.com/oracle/graal

29. ついにWindowsも！
(Early Adopter Windows
Support)

30. Summary
• GraalVMは
–高パフォーマンスな多言語実行環境
–Polyglot VM

31. ネイティブイメージ化は
何なの？

32. Custom Part in GraalVM
• Graal
– JIT Compiler
• Truffle
– Language Implementation Framework
• Substrate VM
– Runtime Library and Tools for Java AOT Compiled
Code

33. AOTコンパイル
(Ahead-of-Time)
=
事前コンパイル

34. 実行可能な
ネイティブイメージに
コンパイルする

35. つまり、JVM不要
クラスロードなし

36. 起動が高速になる！

37. JITコンパイルしないので
ピーク時の
パフォーマンスは落ちる

38. OS, CPUなど
プラットフォームごとに
AOTコンパイルが必要

39. AOT/JITコンパイル
• AOTコンパイル（Javaでの）
– 実行前に、バイトコードから機械語に
• JITコンパイル（JVMでの）
– 実行中に、バイトコードと
プロファイルデータから機械語に

40. https://twitter.com/thomaswue/status/1145603781108928513

41. ネイティブイメージの利用想定対象
• FaaS
– AWS Lambda, Azure Functions...
– すぐに終了させる類のもの
• 多数起動するアプリケーション
– リソースの消費がコストに直結する
• とくにクラウド利用の場合
– 大規模サービスなど
– Quarkus, Micronaut, Helidonといった
対応フレームワークを利用する

42. もう1つ

43. JVM不要なため、
基本的に
ネイティブイメージは
iOS上でも動作させられる

44. (AppleはiOS上で
JVMを動作させることを
禁じている)

45. Java on iOS
• A plan to bring Java to iOS | InfoWorld
– https://www.infoworld.com/article/3407781/a-
plan-to-bring-java-to-ios.html
• Java on iOS, for real. - Gluon
– https://gluonhq.com/java-on-ios-for-real/

46. Summary
• Substrate VMは
–ネイティブイメージ生成時に利用
–生成したネイティブイメージを
実行する小型の仮想マシン
• GC, スレッドのスケジューリング,
コードのキャッシュなど

47. GraalVMは正式リリース
されているが、
ネイティブイメージは
experimentalなので注意

48. どんなコードでも
ネイティブイメージに
できる？

49. 現状、
制約があります

50. https://github.com/oracle/graal/blob/master/substratevm/LIMITATIONS.md

51. そもそも、
ネイティブイメージ化は
限られたユースケースの
ためだった

52. 初期設計時
• ユースケース
– Oracleデータベース MLEにGraalVMを組み込む
• Truffleを利用して、SQL文で多言語実行可能に
– https://www.sakatakoichi.com/entry/graalvmembeddeddb

53. Execute JavaScript Functions in SQL
SQL> select validator.isEmail('alice@example.com’)
from dual;
VALIDATOR.ISEMAIL('ALICE@EXAMPLE.COM’)
-------------------------------------- 1
SQL> select validator.isEmail('bob@example') from dual;
VALIDATOR.ISEMAIL('BOB@EXAMPLE’)
-------------------------------- 0
https://www.sakatakoichi.com/entry/graalvmembeddeddb

54. 初期設計時
• Oracleデータベース向けということは…
– 同じ会社 (Oracle)内のみの利用
– サポートするOSも限定できる
– リフレクションやJNIのサポートは不要
– 初期化の速さと省メモリが必須

55. 初期設計時
制約は多いが、
うまく機能した

56. ネイティブイメージは
いわばオマケだった
(個人的所感)

57. それが
GraalVMの1機能となり、
Oracleデータベース向け
という前提は
なくなった

58. 改善を進めており、
制約のいくつかは
解消している

60. リフレクションとJNI
設定ファイル (JSON)を
用意すれば
利用可能

61. リフレクションサンプル
[
{
"name" : "java.lang.String",
"fields" : [
{ "name" : "value", "allowWrite" : true }
],
"methods" : [
{ "name" : "format", "parameterTypes" : ["java.lang.String",
"java.lang.Object[]"] }
]
}
]

62. 事前に
使用箇所を
全部調べるの！？

63. Tracing Agent
リフレクションやJNIの
使用をトレースし、
設定ファイルを出力する
エージェント

64. Tracing Agent
• JVMTIエージェントが付属している
$ java -agentlib:native-image-agent...
アプリケーションのコードを
網羅するテストコードを実行し、
設定ファイルを出力させる

65. 現実的には、
手作業での反映も
必要となる

66. クラス初期化での
課題

67. ネイティブイメージ生成プロセス
• インプット
– Javaクラスすべて
– ライブラリすべて
– VM (SubstrateVM)

68. ネイティブイメージ生成プロセス
アプリケーション
ライブラリ
JDK
SubstrateVM
下記の繰り返し:
解析ポイント
↓
初期化処理実行
↓
ヒープのスナップショット生成
ELFファイル
コード
(textセクション)
イメージヒープ
(dataセクション)

69. そもそもは、
イメージ生成時に
全クラスを
初期化していた

70. 初期化の課題
import java.util.Date;
class Startup {
static final Date TIME = new Date();
}
class HelloStartupTime {
public static void main(String[] args) {
System.out.println("Startup: " + Startup.TIME);
System.out.println("Now: " + new Date());
}
}
実行結果
$ ./hellostartuptime
Startup: Fri Aug 16 20:31:06 JST 2019
Now: Fri Aug 16 20:31:32 JST 2019

71. 現在は指定できる
• --initialize-at-build-time=[クラス名]
• --initialize-at-run-time=[クラス名]
$ ./native-image --initialize-at-build-time=Startup HelloStartupTime
$ ./hellostartuptime
Startup: Fri Aug 16 20:31:06 JST 2019
Now: Fri Aug 16 20:31:32 JST 2019
$ ./native-image --initialize-at-run-time=Startup HelloStartupTime
$ ./hellostartuptime
Startup: Fri Aug 16 20:38:24 JST 2019
Now: Fri Aug 16 20:38:24 JST 2019

72. ただし、実行時の
初期化は
パフォーマンスに
影響する

73. クラスの初期化は
トリッキーであり、
思ったように
動作しない場合も
まだある

74. ネイティブイメージ化のサポート
• Linux, macOSのみ
– Windows対応は課題だが、多くの作業が必要
• Java 8のみ
– Java 8, 11, 13で異なる部分がある
– GraalVM自体がJava 8バージョンのみ
– GraalVM自体のJava 11対応は作業中

75. ネイティブイメージ化のサポート
• 現状 x64のみ
– GraalVM自体は x64, AArch64, Sparcをサポート
• LLVMの利用も検討中だが…
– 代償を伴うとのこと

76. ライブラリのネイティブイメージ対応
• ライブラリのMETA-INF/native-image
– 設定ファイルを配置する
– Nettyなど対応済みのものも

77. Wrap Up
GraalVM is AWESOME!

78. Fin.