KAIST

[알림판목록 I] [알림판목록 II] [글목록][이 전][다 음]

[ KAIST ] in KIDS 글 쓴 이(By): wang (Chip쟁이) 날 짜 (Date): 2003년 4월 21일 월요일 오후 02시 13분 24초 제 목(Title): Re: [q] DSP multiplier 정확도? 아마도 0.01의 십진수를 이진수 floating으로 바꾸는 과정에서 오차가 발생한 것같네요.. precision이 아무리 높아도 0.01은 정확한 이진수로 표현할 수 없으니까요..

[알림판목록 I] [알림판목록 II] [글 목록][이 전][다 음]

키 즈 는 열 린 사 람 들 의 모 임 입 니 다.