avagy mit ért a JavaScript a Number alatt Budapest.js 2010.10.25.

1. HTTP://WWW.VIRTUAL-CALL-CENTER.EU/
IEEE 754, avagy mit
ért a JavaScript
a Number alatt
Farkas Máté
budapest.js, 2010.10.25

2. SZÁMÍTÓGÉPES SZÁMÁBRÁZOLÁS
Lebegőpontos (float,
double, stb)
Egész (int, word, stb)
BCD és egyebek

3. EGÉSZ SZÁMOK
Egész esetben: pozitív
számok, vagy kettes
komplemens képzéssel
-x === ~x + 1

4. BCD
Binary Coded Decimal
1 tizedes
jegy: 4 bit

5. VALÓS SZÁMOK
A valóságot csak
közelíteni tudjuk
Normalizált alakban
s×m× 2 e

6. NORMÁLALAK, AHOGY TANULTUK
1,364 × 10 3
3,2 × 10 1 -2,59×10 -4
A mantissza:
1 ≤ m < 10

7. MI A GOND?
1,000…001×10 -sok -hoz
1,000…000×10 -sok
közelebb van,
mint a 0-hoz

8. MI MÉG A PROBLÉMA?
0,6 + 0,7 ===
1,2999999999999998
0,1 + 0,2 ===
0,300000000000…
…00004

9. MEGTANULTUK:
Lebegőpontos
számokat soha-
sem vizsgálunk
egyenlőségjellel!

10. LEBEGŐPONTOS EGÉSZEKET SEM?
Miért van olyan nagy
különbség + 1,2 × 10 0
és + 1,2 × 10 1 között?

11. NUMBER ÉS SEMMI MÁS
A JavaScript
egyféle
számot ismer!

12. IEEE 754, AZAZ A NUMBER SZEMÉLYESEN
Lebegőpontos, 64 bit

13. IEEE 754, AZAZ A NUMBER SZEMÉLYESEN
Lebegőpontos, 64 bit
2 64-253+3
különböző érték

14. IEEE 754, AZAZ A NUMBER SZEMÉLYESEN
+∞ == Infinity
-∞ == -Infinity
NaN != NaN

15. VÉGES SZÁMOK
A véges számok fele
pozitív, fele negatív
1/+0 === +∞
1/ -0 === -∞
-0 === +0

16. NORMÁL ALAKÚ SZÁMOK
2 64-254
db normál
alakú szám: s × m × 2 e
s=±1 252 ≤m< 253
-1074 ≤ e ≤ 971

17. DENORMALIZÁLT SZÁMOK
A maradék 253-2
db
szám denormalizált:
s=±1 m< 252
e = -1074

18. MI KÖVETKEZIK EBBŐL?
Valódi egészként
viselkedik minden
-2 53 < i < 253
közé eső egész szám

19. BIT MŰVELETEK
Viszont a bitműveletek
csak 32 bites egészekre
vonatkoznak!

20. EGYÉB SZABÁLYOK AZ IEEE 754-BEN
Kivételkezelés (±∞)
∞ * 0 → NaN
-0 és +0 működése
Kerekítési szabályok

21. EGY PÉLDA A KEREKÍTÉSI SZABÁLYRA
Infinity === 9999999999999999999999999
9999999999999999999999999999999999
9999999999999999999999999999999999
9999999999999999999999999999999999
9999999999999999999999999999999999
9999999999999999999999999999999999
9999999999999999999999999999999999
9999999999999999999999999999
99999999999999999999999999
99999999999999999999999999;

22. AMIT LEGGYAKRABBAN ELFELEJTENEK
Számokat soha nem
vizsgálunk kizárólag
egyenlőséggel!

23. KÉRDÉSEK?
Köszönöm a
figyelmet!
Farkas Máté
budapest.js, 2010.10.25

24. LINKEK
Farkas Máté – szofverfejlesztő (JavaScript, XUL)
http://farkas-mate.hu/
http://weblabor.hu/tagok/1741
http://twitter.com/fmhu
IEEE 754, JavaScript, felhasznált irodalom
http://en.wikipedia.org/wiki/IEEE_754-2008
http://www.hunlock.com/blogs/The_Complete_Javascript_Number_Reference
http://www.cygnus-software.com/papers/comparingfloats/comparingfloats.htm
http://ecma262-5.com/ELS5_Section_8.htm#Section_8.5
eWorldCom, Virtual Call Center (munkahely)
http://www.virtual-call-center.eu/hu
http://www.eworldcom.hu
Kisdaróczy Gábor (design segítség)
http://ironwill.hu