double의 52비트, bias 1023, 17자리는 어디서 나오는가
부동소수점 스펙 표에 적히는 숫자들을 유도한다. 가수가 저장보다 한 비트 많은 이유, 지수 bias가 2^(지수 비트 수 - 1) - 1인 이유, 15자리와 17자리가 서로 다른 왕복인 이유.
부동소수점 스펙 표에 적히는 숫자들을 유도한다. 가수가 저장보다 한 비트 많은 이유, 지수 bias가 2^(지수 비트 수 - 1) - 1인 이유, 15자리와 17자리가 서로 다른 왕복인 이유.
double이 십진 소수를 어떻게 저장하는지, 왜 오차가 생기는지, 비교와 금액 계산에서 무엇을 조심해야 하는지 정리한다.