소수점 숫자 연산시 주의사항

컴퓨터 : 10진법 숫자 연산 -> 2진법 변환해서 이해 하고 연산 진행 -> 결과를 다시 10진법으로 바꿈.

소수점은 2진법 변환 시 숫자가 무한히 반복된다.

저장장치의 한계로 일정 자릿수에서 반올림해서 저장되기 때문에

소숫점 연산을 하게 되면 작은 오차가 존재할 수 밖에 없다.

​

이 오차를 없애는 방법

1. 각 숫자에 10을 곱해서 정수로 만들고 연산 한 뒤, 10을 나눈다.
2. 소수점 연산 라이브러리 사용
3. 반올림 사용 .toFixed()

숫자 .toFixed( 자릿수 )      --> 주의! 문자로 변환됨. 숫자로 재변환 필요

                                               Number() 또는 parseInt(), parseFloat()