QuizWit

[알림판목록 I] [알림판목록 II] [글목록][이 전][다 음]
[ QuizWit ] in KIDS
글 쓴 이(By): valken (:이쁜왕자:)
날 짜 (Date): 1999년 1월 30일 토요일 오후 01시 37분 52초
제 목(Title): Re: [Q] 대단한 MS 계산기


계산 오차 아닌가요?

일단 유한한 길이를 가지는 10 진수 소수 표현이라고 해도.

절대로 유한한 길이의 2진수로 표현되지 않죠..

예를 들어 0.3 은 이진수로 어떻게 될까요?

적당히 반올림  또는  버림되면서,,

발생되는 필연적이 오차입니다..

- 아슈람 -
- Valken the SEXy THief~~ ^_* -
[알림판목록 I] [알림판목록 II] [글 목록][이 전][다 음]
키 즈 는 열 린 사 람 들 의 모 임 입 니 다.