Tip for Java

부동소수점

레나19 2022. 3. 14. 19:43

5.625(10진수) = 101.101(2진수)

정규화과정 -> 1.01101  

101.101 = 2^2 * (1.01101)

8비트 = 2^256승

8비트 2^0 - 2^256까지 사용하고, 2^127 = 0

 

2^(127+2) + 01101

 

5642.1023 (10진수)  -> 5.6421023 * 10^3 : 2^7+3 = 131 정수부에 채운다. 

0.00056421023 (10진수) -> 5.6421023 * 10^-4 : 2^7-4 = 124 정수부에 채운다.

128 을 가운데로 둔다면은

0     (2^7-1) = (-1)          2^7 (0)           2^7+1  (1)

-128

IEEE 754 float 보자