java floating-point (1) 썸네일형 리스트형 [Java] 부동 소수점 방식의 원리와 오차 실수형의 표현 방식컴퓨터에서 실수를 표현하는 방식으로는 대표적으로 고정 소수점 방식(Fixed-Point Number Representation)과 부동 소수점 방식(Floating-Point Number Representation)으로 나눌 수 있다.고정 소수점 방식 (Fixed-Point Number Representation)고정 소수점 방식은 정수부와 소수부의 자리수를 고정하는 것이다. 아래의 그림처럼 정수부는 15비트이고 소수부는 16비트로 고정되어있다. 이렇게 되면 정수부는 -2¹⁵ ~ 2¹⁵-1 밖에 표현을 못한다. 또한 이진수 소수점수 101.100101와 같이 소수부가 6 자릿수가 나올 경우에 나머지 10 자릿수가 낭비하는 메모리 공간된다. 이러한 메모리 공간 낭비를 줄이고 효율적으로 .. 이전 1 다음
