WebGLで浮動小数点テクスチャを扱う話
- 14. 最大値最小値を理論的に求める
(時間が余った時用)
𝕟 𝑧 = 𝑘とおく
𝑘2 + 𝕟 𝑥
2
+ 𝕟 𝑦
2
= 1
∴ 𝕟 𝑥
2 + 𝕟 𝑦
2 = 1 − 𝑘2
− 1 − 𝑘2 < 𝕟 𝑥, 𝕟 𝑦 < 1 − 𝑘2
𝕖 𝑥𝑦 =
𝕟 𝑥𝑦
8𝑘+8
+
1
2
,
1
2
𝕖 𝑥 =
𝕟 𝑥
8𝑘+8
+
1
2
∵ 𝕟 𝑥と𝕟 𝑦は独立
𝕟 𝑥 = 2𝕖 𝑥 + 1 2 𝑘 + 1
𝕖 𝑥𝑦 =
𝕟 𝑥𝑦
8𝕟 𝑧 + 8
+
1
2
,
1
2
- 15. 最大値最小値を理論的に求める
(時間が余った時用)
− 1 − 𝑘2 < 2𝕖 𝑥 − 1 2 1 + 𝑘 < 1 − 𝑘2
−2 2 1 + 𝑘 2 1 − 𝑘 +
1
2
< 𝕖 𝑥 < 2 2 1 + 𝑘 2 1 − 𝑘 +
1
2
𝛿
𝛿𝑘
2 1 + 𝑘 2 1 − 𝑘 =
2
− 𝑘−1 𝑘+1 2 3𝑘2
+ 2𝑘 − 1
𝕖 𝑥𝑦 =
𝕟 𝑥𝑦
8𝕟 𝑧 + 8
+
1
2
,
1
2
k=1/3の時、最大、最小となり、求めたい値の最大値、最
小値はkに1/3を入れて計算したもの。 → UBYTEテクス
チャに先ほどの式でパッキングできる。