| [ QuizWit ] in KIDS 글 쓴 이(By): delixion (김용수) 날 짜 (Date): 1999년 1월 30일 토요일 오전 10시 20분 55초 제 목(Title): [Q] 대단한 MS 계산기 quiz는 아니지만 여기 계신 분들이 가장 좋아할 만한 문제인 것 같아 여기 올립니다. 옛날에 조그만 손계산기에 PI가 있어서 눌러봤더니 3.141592654가 나왔습니다. 그리고 거기에서 '-'를 누르고 손으로 3 . 1 4 1 5 9 2 6 5 4를 눌러봤더니, 0이 나오리라는 예상과는 달리 다른 숫자가 나오더군요. 유효숫자 갯수와, 화면에 표시되는 숫자갯수가 다르기 때문이었지요. 오늘 문득 MS 계산기의 유효자릿수는 몇 자리일까 궁금해져서, 같은 짓을 해보았습니다. 3.1415926535897932384626433832795에서 같은 숫자를 손으로 (ctrl+c와 ctrl+v를 써서 notepad에 복사했다가 다시 복사해서 입력하는 방법으로) 빼 보았더니 5.0288419716939931148196659300e-31가 나오더군요. 그래서 다시 손으로 같은 숫자를 뺐는데 또 엄청 복잡한 숫자가 나오는 겁니다! 그래서 PI가 뭔가 특별해서 그런가..하는 생각으로 먼저 root(2)를 계산한 후에, 이 숫자로 같은 짓을 해보았습니다. 그랬더니.. 39단계까지 내려가면서도 그칠 줄을 모르더군요. (39단계 숫자는 6.90730776270592166752052440e-1044) 이게 어찌된 노릇일까요.. 저정도 유효숫자를 기억하고 있다는 건 말이 안 되는 것 같고.. 그렇다고 각 단계에서 처음부터 다시 다 계산 (처음숫자가 root(2)라는 걸 기억하고 중간에 빼는 숫자들을 기억)한다는 것도 말이 안 되는 것 같고. 아니면 pentium chip의 float연산 bug인가? -_-; |