| [ KAIST ] in KIDS 글 쓴 이(By): homer (simpson) 날 짜 (Date): 2001년 12월 29일 토요일 오후 04시 52분 56초 제 목(Title): Re: [계층구조론]현상과 본질-마치면서 > 비슷하다, 같다, 다르다는 개념을 이렇게 엄격하게 따져본 원래의 동기는 인간의 > 뇌가 가지고 있는 본질적인 원리와 앞으로 등장할 기계가 사용하는 그 본질이 > 같은지를 다른지를 판단하기 위함이었음을 다시 상기하면서 실제로 이들의 비교가 > 어떻게 이뤄저야 하는지 생각해보겠습니다. > 인간과 기계 사이의 본질적 비교를 위해서는 일단 그 둘이 구분할 수 없을 정도로 > 동일한 현상을 보이는지 Turing Test를 거쳐야 합니다. 그 결과가 동일하다면 > 그 본질은 동일하다고 결론내리고 그것으로 끝입니다. > > 하지만 그 테스트를 통과하지 못했다면 문제는 더 복잡해 집니다. 그 둘이 > 만들어내는 현상이 충분히 유사하다는 가정하에 다음과 같은 단계를 거쳐서 > 그 원리가 얼마나 유사한지를 생각해볼 수 있습니다. > > 우선 인간 뇌의 뉴럴넷이 완벽히 밝혀져야합니다. 그 뿐아니라 그 뉴럴넷의 > 원리까지 완벽히 밝혀져서 개념화된 처리모델이 나와야 합니다. 이과정까지 거치면 > 불필요한 뉴런 연결을 제거하고 (irrelevancy) 중복된 부분을 제거하고(redundancy) > 개념화 (conceptualization)을 거친 가장 짧은 표현의 논리조합이 얻게 됩니다. > 이를 우리는 "지능의 본질" 이라 부릅니다. > > 마찬가지로 그 기계의 전자회로를 논리적으로 같은 과정을 거쳐 가장 짧은 표현의 > 논리조합을 얻어냅니다. 이를 "기계 지능의 본질"이라 부릅니다. > > 이들은 충분히 비슷한 생성결과를 보였으므로 그 본질적 표현이 유사하거나 > 공유되는 부분이 많이 찾아질 것입니다. 거기에서 비선형논리가 몇개나 다르게 > 포함되어 있는지를 먼저 말하고, 보조적으로 선형논리에서의 유사도가 다른 정도를 > 말하면 원리적으로 이 들의 본질적 차이를 말할 수 있게 됩니다. > > 여기까지의 과정을 거쳐 드디어 처음에 주어졌던 문제에 대한 답이 주어집니다. > 다시 요약하면 (저는 자꾸 요약만 하는 사람으로 찍히겠네요. 그런데 이렇게 요약을 해야 제가 쇼팽님의 논지를 제대로 이해하고 거기에 대한 정당한 반박을 하는지 서로간에 분명해질것 같아서 이렇게 하는것이니 이해해 주세요) 아래와 같은데, ------------------------------------------------------------ 쇼팽: 인간과 의식을 가진것으로 의심되는 기계의 비교를 위해 Turing Test(TT)를 하고 Case 1. TT를 통과했을 경우 그 기계는 의식을 가진것으로 판정한다. Case 2. TT를 통과 못했을 경우 기계의 뉴럴넷(사실 이게 뭐든 상관은 없죠)이 인간과 같은 원리로 만들어졌나 비교한다. * 기계 지능의 본질을 찾기 위해 인공뉴럴넷의 중복/불필요한 부분을 제거하고 개념화해서 가장 짧은 표현의 논리조합으로 나타내고 똑같이 유추한 인간의 것과 비교한다. * 이때 비선형논리의 갯수와 선형논리의 유사도를 비교한다. <요약끝> ------------------------------------------------------------ 그런데 여기서 두가지 점이 제가 보기에 문제가 있습니다. 문제점 1. 쇼팽님의 경우 Case 1과 Case 2의 우선 순위가 거꾸로 된것 같습니다. 만약 TT를 통과 못한다면 그 기계는 (감각질/마음의 문제는 접어두고라도) 고려의 가치가 되지 못합니다. 그러니 Case 2의 경우 더 자세히 탐구하고 들어갈 필요가 전혀 없다는것이죠. 외부적인 행동으로 봤을때 벌써 의식이 없다는것이 판명되었는데 그 원리가 뭔지를 들춰볼 이유가 없다는것이죠. 오히려 Case 1의 경우 외부적으로는 의식을 가진것 같은데 과연 그 원리마저 같은가? 이것이 우리가 알고싶은것이죠. 사실 여기까지 오면 더 이상 과학적인 방법으로 불가능 할것도 같은데 아직도 더 탐구할 여지가 충분히 있다고 봅니다. 쇼팽님의 비교방법론도 여기에 사용될수 있겠죠. 문제점 2. Case 2의 비교 방법론에서 인간이나 지능의 본질을 종국에는 논리조합으로 나타낸다는것이 쇼팽님의 핵심적인 아이디어인데 이것은 결국 어떤 symbolic한 표현의 한 형태이지요? 하지만 그렇다면 순수히 symbolic한것에서 (컴퓨터 시뮬레이션을 생각하시면 되겠습니다) 의식이 도출될 수 있다는데 대한 Searl의 Chinese Room과 같은 비판에서 벗어나기 힘들다는것이 저의 생각입니다. (그렇다고 제가 Searl처럼 인간뇌의 자연적인 구조만이 의식을 불러일으킬 수 있다는 주장에 동의하는것은 아닙니다.) 컴퓨터 시뮬레이션(또는 심볼체계)의 한계는 비행 시뮬레이션안의 비행기가 모든 면에서는 날고 있는것 같지만 실제로 날고 있지 않고, 가상 현실안의 화롯불이 아무리 색깔, 타는 모습이 진짜와 같아도 뜨거운 기운이 안나오는것과 같은 예를 생각해보면 될것 같습니다. 결국 심볼체계의 문제는 그것이 아무리 복잡하고 정교한 패턴을 형성하더라도 종국에는 누군가가 (인간이나 다른 의식을 가진 개체가) 그 패턴을 해석(interpret)해야한다는데 있습니다. 심벌 자체에는 그 심벌의 외부적인 모양새가 있을뿐이지 원천적인 의미같은걸 가지고 있지 않기 때문이죠. 쇼팽님이 자주 예로 드는 만델브로트셋과 같은것도 컴퓨터 화면이나 종이에 나타난 것 자체가 그 자체로서 어떤 의미를 가졌다고 볼수 없죠. 인간과 같은 의식을 가진 개체가 그것을 관찰할때에서야 비로소 그 복잡한 문양이 어떤 의미성을 가지는것이죠. 심벌이 의미를 가지기 위해서는 어떻게든 물리적인 세계에 기반을 두고 있어야 합니다. 몇개의 기본적인 이런 심볼이 있으면 그 심볼들을 기반으로 추상적인 심볼조합들을 만들어 나갈 수 있습니다. 이런 아이디어는 Stevan Harnad라는 유명한 인지과학자의 symbol grounding이란 이론인데요, 저는 애초에 다크맨님이 제기하신 감각질의 문제가 바로 이런 물리적인 세계에 기반을 둔 심볼들과 큰 연관이 있지않을까 생각합니다. * Harnad의 글들을 읽어보면 TT의 한계와 어떻게 TT를 확장해서 Searl의 논박에 대처할 수 있는가와 같은 문제를 이해하실 수 있을겁니다. * http://www.uniroma3.it/kant/field/Symbol_grounding.html 에 있는 글들을 차례로 읽어보세요. 특히 쇼팽님 이글들 안읽어보셨다면 꼭 읽어보세요. --- D'oh! |