[Standford_cs231n] Lecture 1 ) Introduction to Convolutional Neural Networks for Visual Recognition

 

컴퓨터 비전의 역사

1. 컴퓨터 비전이란

⇒ 최근 인터넷 트래픽 중 80%가 비디오 데이터일 만큼 엄청난 양의 시각적 데이터들이 쏟아져 나오는 것을 유튜브만 봐도 느낄 수 있음.

⇒ 이 데이터들을 효과적으로 이해하고 분석해서, 컴퓨터로 하여금 인간의 시각적인 인식 능력을 가질 수 있도록 알고리즘을 개발하기 시작했고, 이것을 컴퓨터 비전이라 함.

2. 컴퓨터 비전의 역사

• 1950s

  • Hubel과 Wiesel
    • 생물의 시각적 매커니즘을 찾고자 고양이 뇌에 전극을 꽂아 실험 진행
    • 고양이에게 어떠한 시각적 자극을 주어야 고양이의 뇌의 1차 시각 피질의 뉴런들이 격렬하게 반응할지에 대해 실험 진행
    • 시각적 input의 edges가 움직일 때 반응하는 단순한 세포에 초점을 둠
    ⇒ "시각 처리는 edges와 같은 단순한 구조로 시작되어 점점 복잡한 요소들을 처리하고, 궁극적으로 실제 시각적 input을 인지할 수 있게된다."
  • 

• 1960 초

  • Larry Roberts의 Block World
    • 사물들을 기하학적 모양으로 단순화 시킴 ⇒ 시각적 세상을 재구성 연구 진행

  

• 1966

  • MIT Summer project 진행 ( 시각 체계 구현 )

• 1970s

  • David Marr의 책 VISION 저술. 컴퓨터 비전의 기본서

  • Stanford, SRI에서는 단순한 모양이나 기하학적 구성을 통해 복잡한 객체를 단순화시키는 방법을 제안.

• 1980s

  • David Lowe는 어떻게 하면 단순한 구조로 재구성할 수 있을지를 고민함.

  • lines, edges, straight lines의 조합들로 구성.

  

  • 여기까지 야망있는 시도였으나 단순한 수준에 불과했음.

  • 이때부터 연구자들은 객체 분할에도 초점을 맞추어 이미지의 각 픽셀을 의미있게 군집화하는 연구를 시작함.

• 1999/2000s

  • 기계학습

  • SVM, Boosting, Graphical models, 초기 NN

  • Paul Viola, Michael Jones: 실시간 얼굴인식 성공(2001)

  • David Lowe: SIFT feature

  • 특징기반 객체인식 알고리즘

  • 변화에 좀 더 강인하고 불변한 특징을 발견

  • 이미지 전체를 매칭하던 것에서 -> 아래 그림과 같이 중요한 특징들을 찾아내어 다른 객체에 매칭시키는 것이 더 쉽다.

  

3. + a

• Spatial Pyramid Matching, Support Vector Algorithm21세기, 인터넷과 카메라의 발전으로 실험 데이터들의 질이 급격히 상승.
• 이 때부터 양질의 데이터셋을 모으기 위해 움직이기 시작함.

• PASCAL Visual Object Challenge(VOC)알고리즘 테스트에 사용되었고, 밑의 그래프는 2007년부터 2012까지의 객체인식 성능을 보여줍니다.
• 
• ImageNet가장 큰 데이터셋을 만들어 Overfitting을 방지하고 일반화 능력을 키워 이 세상 모든 객체들을 인식할 준비함.2010년부터 2015년까지의 실험 결과.
  • 2012년의 NN ⇒ 오류율 급격히 감소시킴.⇒ 이를 기점으로 발전하게 됨.
• 
• ILSVRC 대회를 열어 해당 데이터셋으로 지속적인 알고리즘 테스트를 진행.