본문 바로가기

자바기초

부동소수점과 그 한계

0.3의 출력을 기대했으나...

컴퓨터에서 소수는 밑(base)이 이진 소수로 표현된다.

Ex. 0.125 = 1/10 + 2/100 + 5/1000

그렇기에 대부분의 십진 소수를 이진 소수로 정확하게 표현이 불가능.