Deep Belief Network vs. Deep Neural Network

• DBN = ANN + pre-training by RBM (good for small data)
  • 2006년 Hinton의 unsupervised 방법인 RBM을 이용한 ANN 개선법
  • 비교적 small data에도 기존의 ANN 문제를 잘 해결해 냄
• DNN = ANN w/ many hidden layers
  • pre-training을 쓰지 않더라도 data가 충분하고 컴퓨터가 충분히 빠르면 문제를 잘 해결해 냄
  • 이건 과거의 ANN과 다른게 아니다.
  • 과거에 이 단순한 사실 (big data, fast computer)을 알지 못했던 이유는 big data도 fast computer도 없었기 때문

Hosung Nam