#IEEE754

double의 52비트, bias 1023, 17자리는 어디서 나오는가

부동소수점 스펙 표에 적히는 숫자들을 유도한다. 가수가 저장보다 한 비트 많은 이유, 지수 bias가 2^(지수 비트 수 - 1) - 1인 이유, 15자리와 17자리가 서로 다른 왕복인 이유.

·컴퓨터공학·파고들기, 부동소수점, IEEE754, Java

부동소수점 — 0.1 + 0.2가 0.3이 아닌 이유

double이 십진 소수를 어떻게 저장하는지, 왜 오차가 생기는지, 비교와 금액 계산에서 무엇을 조심해야 하는지 정리한다.

·컴퓨터공학·기본개념, 부동소수점, IEEE754, Java