[Python] 전이학습(Transfer Learning) 설명

https://kr.mathworks.com/discovery/transfer-learning/_jcr_content/mainParsys/band/mainParsys/lockedsubnav/mainParsys/columns/34f2a068-7484-4ccd-b506-5ab35de2a7f5/image.adapt.full.medium.svg/1705253487602.svg

전이학습 이란?

전이학습은 한 작업에 대해 훈련된 모델을 사용해 유사한 작업을 수행하는 모델의 기초로 활용하는 딥러닝 접근법입니다. 전이학습을 통해 신경망을 업데이트하고 재훈련시키는 것이 처음부터 신경망을 훈련시키는 것보다 빠르며 쉽습니다.

전이학습은 영상분류, 객체검출, 음성인식 및 기타응용사례에서 사용됩니다.

• 이미 대규모 데이터셋으로 훈련된 널리 쓰이는 모델을 재사용함으로써 더 적은 레이블 지정 데이터로 모델을 훈련시킬 수 있습니다.
• 이를 통해 훈련 시간과 연산 리소스를 줄일 수 있습니다.
  • 전이 학습을 사용하면 사전 훈련된 모델이 이전 학습을 기반으로 이미 가중치를 학습했기 때문에 신경망 가중치를 처음부터 학습하지 않습니다.
• GoogLeNet 및 YOLO와 같이 널리 사용되는 아키텍처 등 딥러닝 연구 커뮤니티에서 개발한 모델 아키텍처를 사용할 수 있습니다.
  
  • GoogLeNet : 22개 계층으로 구성된 컨벌루션 신경망입니다.
    • ImageNet 데이터 세트 또는 Places365 데이터 세트에서 훈련된 신경망의 사전 훈련된 버전을 불러올 수 있습니다.
      • ImageNet에서 훈련된 신경망은 영상을 키보드, 마우스, 연필, 각종 동물 등 1,000가지 사물 범주로 분류합니다.
      • Places365 에서 훈련된 신경망은 ImageNet에서 훈련된 신경망과 비슷한데,
        다만 영상을 들판 ,공원, 활주로, 로비 등 365가지 장소 범주로 분류합니다.
  • YOLO( You Only Look Once ) : 이미지에서 객체를 감지하기 위한 객체 감지기를 만듭니다.
• 전이학습은 다양한 사전 훈련된 모델이 있는 작업에 유용합니다.
  예를 들어, 널리 사용되는 많은 CNN(컨벌루션 신경망)은 1,400만개 이상의 영상과 수천 개의 영상 클래스를 포함하는 ImageNet 데이터셋에 대해 사전 훈련되었습니다. 
  • 만약 여러분이 정원의 꽃 영상(또는 ImageNet 데이터셋에 포함되지 않은 영상)을 분류해야 하는데 꽃 영상 수가 제한적인 경우, SqueezeNet 신경망에서 계층과 가중치를 전이하고, 최종 계층을 교체한 후, 보유한 영상으로 모델을 재 훈련시킬 수 있습니다.
    
    • SqueezeNet : 18개 계층으로 구성된 컨벌루션 신경망입니다.
      ImageNet 데이터베이스의 1백만 개가 넘는 영상에 대해 훈련된 신경망의 사전 훈련된 신경망의 사전 훈련된 버전을 불러올 수 있습니다.
      사전 훈련 된 신경망은 영상을 키보드, 마우스, 연필, 각종 동물 등 1,000가지 사물 범주로 분류할 수 있습니다. 그 결과 이 신경망은 다양한 영상을 대표하는 다양한 특징을 학습했습니다.

처음부터 훈련시키는 경우와 전이 학습을 수행하는 경우의 신경망 성능(정확도) 비교. 전전

 

전이학습 응용 사례

전이학습은 다음과 같이 많은 딥러닝 응용 사례에서 널리 사용되고 있습니다.

• 컴퓨터 비전
  컴퓨터 비전 응용 사례에는 영상인식, 객체검출, 영상분할, 라이다 포인트 클라우드 처리 등이 있습니다.
• 음성 및 오디오 처리
• 텍스트 분석

전이학습을 위한 사전 훈련된 모델

전이학습의 중심에는 딥러닝 연구자들이 수백만 개의 샘플 데이터로 사전 훈련시킨 딥러닝 모델이 있습니다.

많은 사전 훈련된 모델이 존재하며, 각각의 모델에는 고려해야 할 다음과 같은 장단점이 있습니다.

1. 예측속도 : 모델이 얼마나 빠르게 새 입력을 예측할 수 있는가?
   예측속도는 하드웨어 및 배치크기와 같은 인자에 따라 달라질 수 있지만,
   모델의 아키텍처와 크기에 따라 달라질 수도 있습니다.
2. 크기 : 모델에 필요한 메모리 사용량이 어느 정도인가?
   모델 크기의 중요성은 모델을 어디로 그리고 어떻게 배포하려는지에 따라 달라집니다.
   예로 모델을 임베디드 하드웨어 또는 데스크탑에서 실행할 것인지에 따라 달라질 수 있습니다.
   리소스가 제약된 타겟에 배포하는 경우에는 신경망의 크기가 중요합니다.
3. 정확도 : 재훈련하기 전의 모델의 성능이 얼마나 좋은가?
   ImageNet 데이터셋에 대해 좋은 성능을 보이는 모델은 새로운 유사 작업에서도 좋은 성능을 보일 가능성이 높습니다. 그러나 ImageNet에서 정확도 점수가 낮다고 해서 모델이 모든 작업에서 성능이 떨어지는 것은 아닙니다.

널리 사용되는 CNN 사전 훈련 모델의 모델 크기, 속도 및 정확도 비교.

 

 

[참고사이트] https://kr.mathworks.com/discovery/transfer-learning.html#:~:text=%EC%A0%84%EC%9D%B4%20%ED%95%99%EC%8A%B5%EC%9D%B4%EB%9E%80%3F,%EC%8B%9C%ED%82%A4%EB%8A%94%20%EA%B2%83%EB%B3%B4%EB%8B%A4%20%EB%B9%A0%EB%A5%B4%EB%A9%B0%20%EC%89%BD%EC%8A%B5%EB%8B%88%EB%8B%A4.