| [ KAIST ] in KIDS 글 쓴 이(By): guest (guest) <210.113.56.232> 날 짜 (Date): 2003년 4월 22일 화요일 오후 05시 28분 45초 제 목(Title): Re: [q] DSP multiplier 정확도? 원글 쓴 사람입니다. 계산오차의 누적으로 고생을 했었는데, 다음과 같이 해결했습니다. 1. 양자화 하는 변수의 경우 : a = floor(a); 를 쓰지 않고, a = floor(a+0.5); 반올림하여 계산. 2. 전체적으로 1번 계산한 후, 1차적으로 얻은 파라미터들을 이용하여 역순으로 다시 계산. 이 때 양자화되는 변수들의 순서를 잘 따져야 함. 원래 양자화가 개입되지 않은 수식보다 복잡해지는 것은 필연적임. 3. 계산이 아주 중요한 부분은 (오차에 영향을 많이 주는 부분은) << 로 뻥튀기를 한 후에, 계산 끝나고 >>로 다시 줄여줌. (오차가 조금 줄어들게 됨) @ 숙변 나간 것 같이 후련하군요. ^^V |