| [ KAIST ] in KIDS 글 쓴 이(By): guest (guest) <lxplus037.cern.c> 날 짜 (Date): 2002년 9월 27일 금요일 오전 11시 58분 40초 제 목(Title): Re: EM algorithm 성질 그럼, local minima에 빠지는 걸 방지하는 방법ㅇ은 ㅇ어떤 것들이 있는지... 제 질문은 그렇게 복잡한 게 아니고, A라는 데이터 셋이 하나 있습니다. 이거는 바꾸지 않고 계속 사용하는데, EM algorithm (복잡한 거 없이 그냥 단순한 EM 적용) 구현한 코드로 A에 대한 결과를 보기 위해 실행했을 때 EM으로 계산한 값이 3개 나온다고 합시다. 그럼 한번만 실행하는 게 아니고 이 코드를 여러번 실행하는 거죠. 그러니까 여기서 매번 결과값이 3개 나오는데 이 3개 값이 코드 실행할 때마다 (코드랑 데이터는 변한 게 없어도) 알고리즘 자체 특성 때문에 조금씩 달라질 수도 있는가 하는 것입니다. 그리고 iteration은 EM 구현할 때 몇번이고 iteration을 하지 않는지? 그러면 이 때 iteration 수가 충분히 크면 위에서 매번 실행할 때마다 같은 값을 줄 수 있는지 (즉 local minima를 피하는 방법이 되는 거란 이야기인데 이렇게 간단할 것 같지 않네요). 아니면 어차피 EM은 converge 하는 값 나올 때까지 돌아가는 거니까 iteration 수를 임의로 설정해준다는 건 말이 안되나요? EM에 대한 개념이 사실 거의 없습니다. EM 구현한 패키지 돌리는데 똑같은 script로 같은 데이터 넣고 돌리니까 돌릴 때마다 결과가 달라서요. EM에 대해서 자세히 알고 싶은데 죄송하지만 말씀해주신 사이트는 제게 좀 안맞는 것 같고, 뭐 아시는대로 EM의 수학적 근거, 성질, 장단점을 잘 공부할 수 있는 책이나 온라인 리소스가 있으면 소개해주시면 감사하겠습니다. |