関西 GPGPU 勉強会 #2 (10/13/2012) HistoPyramid を使用した Stream Compaction 及び Marching Cubes への応用を紹介したスライドです． 内容の正確性は保証しません．

1. HistoPyramid
Stream Compaction
@dasyprocta
関西 GPGPU 勉強会 #2

2. Outline
● Stream Compaction
● HistoPyramid Algorithm
● Example: Marching Cubes

3. (c) Jeremy Vandel
http://www.flickr.com/photos/jeremy_vandel/208714007/
Stream Compaction

4. Stream Compaction
入力ストリームからいらない要素を取り除く
● Stream Reduction
● Stream Filtering

5. Sequential Compaction
● 逐次処理によるコンパクション
for (i = 0, j = 0; i < N; ++i) {
if (input[i] is wanted) {
output[j] = input[i];
++j;
}
}
* size(input) >= size(output)

6. Compaction Presence or Absence
● コンパクションなし ● コンパクションあり
for (value in input) { wanted = compaction(input)
if (value is wanted) { for (value is wanted) {
process(value); process(value);
} }
}

7. GPU Stream Compaction
● Prefix Sum を利用したコンパクション
Predicate
0 0 1 0 1 1 1 0
Prefix Sum (exclusive scan)
0 0 0 1 1 2 3 4
Scatter

8. Stream Compaction Library
Thrust -> Reordering -> Stream Compaction
● copy_if
● remove
● remove_if
● unique
● etc...

9. Compaction Efficiency
● CPU, GPU 間のデータ転送量の削減
● カーネル実行数の削減
● インアクティブスレッドの抑制

10. Compaction Efficiency
CPU, GPU 間のデータ転送量の削減
必要なデータのみの転送が可能に
CPU GPU
GPUへ転送
何らかの処理
CPU読み戻し

11. Compaction Efficiency
カーネル実行数の削減
処理する必要のあるデータのみカーネル割り当て

12. Compaction Efficiency
インアクティブスレッドの抑制
仕事をしないカーネルの排除
void kernel(input) {
if (input is unwanted)
return;
some works...
}

13. Performance Trade-off
● コンパクション作成のオーバーヘッド
● コンパクションのためのバッファ増
● データが疎であるほど効果大
● カーネル負荷が高いほど効果大

14. Stream Compaction Application
● 画像処理
● ボリューム (空間) データ
● ヘテロなストリームの均質化
● etc...

15. (c) jared
http://www.flickr.com/photos/generated/1164823755/in/photostream/
HistoPyramid Algorithm

16. what's HistoPyramid
short for Histogram Pyramid
● ミップマップライクなデータ構造を利用した
コンパクション手法
On-the-fly Point Clouds through Histogram Pyramids
[Ziegler2006]

17. Algorithm Outline
1. Preprocess
入力データから Predicate 値を生成
2. Buildup Phase
Predicate 値によるピラミッドの構築
3. Traversal Phase
ピラミッドからのデータ取得

18. Algorithm Outline
Predicate 値とは?
データの扱い方を決定する値
● value = 0
棄却する要素
● value = 1
保持する要素
● value > 1
複製する要素

19. Preprocess Phase
入力データを Predicate 値に変換
Example:
入力データが 1 以下の場合に棄却
入力データ
0 8 1 0 4 2 5 0
Predicate 値
0 1 0 0 1 1 1 0

20. Buildup Phase
ピラミッドの構築
ベースレベルからのリダクション
● 加算による畳み込み
4
1 3
1 0 2 1
Predicate 値 0 1 0 0 1 1 1 0

21. Buildup Phase
ピラミッドデータ構造
● 必要なバッファサイズ (2-1 リダクション)
ベースレベルサイズ × 2 - 1
● トップレベルの値
コンパクションされた有効値の数

22. Buildup Phase
GPU 実装
基本は Parallel Reduction
● 各レベルのバッファを保存する必要あり
カーネル最適化の参考
Optimizing Parallel Reduction in CUDA [Harris]

23. Traversal Phase
トップレベルからベースレベルへ
トップレベル値範囲のインデックスから
入力データの有効インデックスを取得
{ 0, 1, 2, 3 } 4
0,1,2,3
1 3
{ 1, 4, 5, 6 }
1 0 2 1
0 1 0 0 1 1 1 0
1 4 5 6

24. Traversal Phase
探索範囲の決定
Example: インデックス 2 を探索
レベル降下時に属する範囲の先頭値を引く
4
key = 2
[0, 1) [1, 4)
1 3
key = 1 = 2-1
[0, 2) [2, 3)
2 1
key = 1 = 1-0
[0, 1) [1, 2)
1 5 1

25. Traversal Phase
GPU 実装
インデックス 1 つにカーネルを割り当て
● トップレベル値の数のカーネル起動
ピラミッドが大きくなるほど探索コスト大

26. Algorithm Optimization
● 4-1 リダクション
● 5-1 リダクション

27. Algorithm Optimization
トップレベルまでのリダクション回数
● 2 要素を 1 つにまとめる場合
log2N
● 4 要素を 1 つにまとめる場合
log4N
データ数 N は底の累乗でなければならない

28. Algorithm Optimization
4-1 Reduction 1D Pyramid
11
1 4 3 3
0 1 0 0 1 1 1 1 0 1 1 1 1 0 1 1

29. Algorithm Optimization
4-1 Reduction 2D Pyramid
0 1 1 1
0 0 1 1 1 4
11
0 1 1 0 3 3
1 1 1 1
● ミップマップライク
● テクスチャキャッシュを考慮

30. Algorithm Optimization
5-1 Reduction
● 上位レベル値があれば下位レベル値は1つ必要無い
● 少しトリッキー
14
1 4 3 3 ?
GPU-accelerated data expansion for
the Marching Cubes Algorithm [Dyken2010]

31. Comparison with the Other
Prefix Sum コンパクションとの違い
出力駆動と入力駆動の差
● HistoPyramid ● Prefix Sum
0 0 1 0 1 1 1 0 0 0 1 0 1 1 1 0
0 1 2 1
1 3
4 0 0 0 1 1 2 3 4
頂点値による 4 スレッド Scatter による 8 スレッド

32. (c) jurvetson
http://www.flickr.com/photos/jurvetson/148925935/
Example, Marching Cubes

33. Marching Cubes
立方体格子にポリゴンを貼るアルゴリズム
Marching Cubes: A High Resolution 3D Surface
Construction Algorithm [Lorensen1987]

34. 立方体パターン
● 各セルは 0 ~ 5 枚のトライアングルを生成
● 対称等を考慮して全 256 パターン

35. Marching Cubes
パターンの登録
● セルとの接触判定
● パターンをセルに登録

36. Marching Cubes
HistoPyramid ベースレベルの生成
● ポリゴンを貼るセル
Value = 1
● 空のセル
Value = 0
0 0 0 1 1 0 0 0
0 0 1 1 1 1 0 0
0 1 1 0 1 1 0 0
0 1 0 0 1 0 0 0
0 1 0 0 1 1 1 1
0 1 1 0 0 0 0 1
0 0 1 1 1 1 1 1
0 0 0 0 0 0 0 0

37. Marching Cubes
HistoPyramid の構築
0 0 0 1 1 0 0 0
0 0 1 1 1 1 0 0
0 1 1 0 1 1 0 0 0 3 3 0
0 1 0 0 1 0 0 0 2 1 3 0 6 6
26
0 1 0 0 1 1 1 1 2 1 2 3 5 9
0 1 1 0 0 0 0 1 0 2 2 2
0 0 1 1 1 1 1 1
0 0 0 0 0 0 0 0
● 有効セル数の算出

38. Marching Cubes
HistoPyramid の探索
0 0 0 1 1 0 0 0
入力値: 10 0 0 1 1 1 1 0 0
0 3 3 0 0 1 1 0 1 1 0 0
6 6 2 1 3 0 0 1 0 0 1 0 0 0
26
5 9 2 1 2 3 0 1 0 0 1 1 1 1
0 2 2 2 0 1 1 0 0 0 0 1
0 0 1 1 1 1 1 1
0 0 0 0 0 0 0 0
参照
入力値から
セルパターンを取得

39. Marching Cubes
有効セル数を基に描画
頂点バッファ生成 or ジオメトリシェーダー
● 頂点バッファ生成
1. カーネルで GPU メモリに頂点バッファを生成
2. 3D API で頂点バッファを描画
● ジオメトリシェーダー
1. 3D API でポイントリストとしてセルを描画
2. ジオメトリシェーダーでポリゴンを生成

40. Marching Cubes
3D API
OpenGL or DirectX
● DrawIndirect 系 API
GPU メモリのデータを引数にできる
HistoPyramid のトップレベル値を
CPU のリードバック無しで利用可能

41. Marching Cubes on GPU 参考文献
HistoPyramid を用いた Marching Cubes
High-speed Marching Cubes using Histogram Pyramids
[Dyken2007]
GPU-accelerated data expansion
for the Marching Cubes Algorithm
[Dyken2010]

42. Exploit the Massive Parallelism!